בטלפון, במחשב, בטלוויזיה וכמובן ברמקול החכם – רבים עושים שימוש קבוע בעוזרת חכמה. לרוב אולי מדובר בשאלות בסיסיות כמו תחזית מזג האוויר או תוצאות ספורט, אבל לעיתים העוזרת הקולית נחשפת למידע רגיש כמו מידע מסחרי, פגישות דיסקרטיות ומידע רפואי, מתוך מחשבה שמדובר בסך הכל בשירות שהכל בשבילו זה ביטים של מידע דיגיטלי ולא מעבר. אבל עכשיו מודה אמזון (Amazon) שאלפי עובדים שלה מאזינים לבקשות ולשאלות, כדי לעזור לאלקסה (Alexa) לבצע את המשימות השונות שלה.

אלפי עובדים עוסקים בניתוח הבקשות

זה לא סוד, שכדי שהשימוש בבינה המלאכותית (AI) ישתפר ויפעל היטב, האלגוריתמים השונים זקוקים ללימוד. לצורך כך, נדרשת התערבות אנושית שתעזור למערכת להבין בקשות שונות, מבטאים שונים והקשרים שונים. על פי תחקיר חדש של בלומברג, מעסיקה אמזון צבא של אלפי עובדים – חלקם עובדי קבלן וחלקם עובדים של אמזון עצמה – כדי לשפר את היעילות והדיוק של אלקסה, העוזרת הקולית של החברה, שמוטמעת במיליוני מכשירים שונים ברחבי העולם.

על פי התחקיר פועלים אלפי העובדים מרחבי העולם המבצעים את המשימות שלהם במשמרות של 9 שעות, כשבמהלך כל משמרת הם צריכים לפענח עד 1,000 קטעי אודיו שונים שמגיעים אליהם – כלומר קצב של כמעט 2 קטעי אודיו בדקה.

העובדים מבצעים למידה מונחית (supervised learning), כלומר כל פקודה או בקשה קולית שמגיעה עוברת תיוג אוטומטי של המערכת, כשהעובדים מאמתים את התיוגים הזה ומאמנים אותה על ידי הוספות תיוגים רלוונטיים נוספים. בפועל, העובדים עוזרים לאלכסה על ידי תימלול הבקשות השונות, הוספת הערות והכוונות למערכת, כדי שהעוזרת תגיב בצורה מדוייקת לבקשה שלנו.

קרא עוד:  אדובי הציגה כלי לזיהוי של תמונות מזויפות

עובד אחד למשל סיפר לבלומברג שהוא שייך את הביטוי “טיילור סוויפט” לזמרת, כך שבכל פעם שמישהו יבקש – מרצונו החופשי כנראה – להאזין לזמרת, אלקסה תדע ישר להתאים לו את התוכן הרלוונטי. בנוסף משמשים העוזרים האנושיים כדי לעזור לאלקסה להתגבר על מבטאים שונים, דרכי הגייה שונות של מילים וסלנג.

העובדים חשפו בתחקיר גם כי רוב העבודה שלהם היא משעממת ומונוטונית, אולם לעיתים הם נחשפים לקטעי אודיו שהבעלים שלהם היו מעדיפים שיישאר פרטי כמו למשל משתמשת ששרה תוך כדי זיופים במקלחת או ילד שזועק לעזרה. עובדים ברומניה היו עדים אף להקלטות של אירוע שכלל הטרדה מינית. העובדים אמנם מתודרכים להעביר קטעי קול כאלו להאזנה של גורמים אחרים בצוות, אולם במקרה הזה נאמר להם שהתפקיד של אמזון הוא לא להתערב.

בתגובה לתחקיר מסר דובר של אמזון: “מספר קטן מאוד של קטעי קול שנשלחו לאלקסה מועברים לבדיקה ולמתן הערות. התהליך הזה עוזר לנו לאמן את מערכת זיהוי הקול ועיבוד השפה הטבעי של המערכות שלנו, כדי שאלקסה תוכל להבין טוב יותר את הבקשות שלכם וכדי לוודא שהשירות יעבוד טוב יותר לכולם”. עוד הוסיף הדובר: “כל המידע מעובד בחשאיות גמורה ואנחנו משתמשים באימות דו-שלבי, מגבילים את הגישה, מצפינים את השירות ומפקחים כל הזמן על האבטחה שלו”.

לא רק אלכסה

אמזון כמובן אינה היחידה שמשתמשת בעובדים כדי לשפר את העוזרת הקולית שלה. גם גוגל ואפל הודו שהן עושות כך – אם כי שתיהן עושות זאת ללא שיוך של הפקודה הקולית למשתמש – בניגוד לאמזון.

קרא עוד:  כבר כאן: Harry Potter: Wizards Unite הושק

עם זאת, הבעיה היא בעיקר בחוסר השקיפות. לא ידוע איזה מידע בדיוק נחשף בפני העובדים של אמזון והאם המידע הזה כולל גם מידע רגיש; מה קורה עם מידע מזהה, אליו נחשפים העובדים; למשך איזו תקופה מאוחסן המידע על השרתים של אמזון לפני שהוא נמחק – אם בכלל; או למשל האם היו מקרים של עובדים שעשו שימוש לרעה במידע אליו נחשפו.

פורסם לראשונה באתר גיקטיים