לה יש ישבן שטוח, לו יש רגליים רזות: כשה-AI של אמזון מסתבך עם הלקוחות
ענקית הקמעונאות השיקה תוכנה חדשה שנועדה להציג ללקוחות מה היא יודעת עליהם, ולהתאים להם המלצות קנייה באמצעות AI. אלא שגולשים גילו שהאלגוריתם גיבש עליהם גם מסקנות אישיות ומביכות במיוחד, מ"רגליים דקיקות" ועד מחסור בחברים. ברשת כבר חוגגים, אבל הסיפור מעורר גם שאלות על פרטיות
אמזון בסך הכל ניסתה לשדל את הלקוחות שלה לקנות קצת יותר. במקום זה, היא מצאה את עצמה מסבירה לאמריקנים למה היא חושבת שאין להם חברים, שהבעל שלהם רזה מדי ושמבנה הישבן שלהם טעון שיפור. תכונה חדשה של ענקית הקמעונאות, שנועדה לספק המלצות קנייה מותאמות אישית באמצעות בינה מלאכותית, הפכה בימים האחרונים לבדיחה ברשתות החברתיות, אחרי שגולשים גילו את המסקנות המפתיעות, ולעיתים גם המעליבות, שהחברה הסיקה עליהם מאחורי הקלעים. מתברר שהאלגוריתם שממליץ על שואבי אבק ומוצרי טיפוח פיתח גם כמה דעות נחרצות על האנשים שרוכשים אותם.
הסערה החלה כשמייגן מונטגומרי, לקוחה אמריקנית, גילתה במקרה עמוד בשם About You ("עליך") בחשבון האמזון שלה. לצד פרטים הגיוניים למדי, כמו העובדה שהיא כנראה מחזיקה שואב אבק של חברת Shark והתכוננה למסיבת יום הולדת שנתיים בנושא סדרת הילדים "בלואי", הופיעה קביעה נחרצת במיוחד: "יש לה ישבן שטוח". מונטגומרי העלתה צילום מסך לרשת החברתית וכתבה שהיא נותרה פשוט ללא מילים. "כלומר, הם לא טועים, אבל באמת הייתם חייבים לחשוף אותי ככה?", הוסיפה. לדבריה, ייתכן שהמסקנה המעליבה נולדה מרכישת טייץ שנועד להבליט את הישבן. הפרסום שלה צבר יותר מ-1.5 מיליון צפיות בתוך שעות ספורות והצית תחרות בלתי רשמית בין גולשים בניסיון לגלות מי זכה לניתוח האישיות המביך ביותר.
התוצאות לא אכזבו. אחת המשתמשות גילתה שאמזון קבעה שלבעלה יש רגליים רזות. אצל משתמשת אחרת נכתב שהיא "מקללת כשהיא מפחדת", ואחרת גילתה שהחברה סבורה שהיא "לא סומכת על אנשים בקלות". בפרופילים נוספים הופיעו מסקנות כמו "אין לו חברים", "לא מצליחה להחזיק צמחים אמיתיים בחיים" ו"מתייחסת לחתולים שלה כאילו היו ילדיה הביולוגיים". במקרה האחרון אמזון אף ציינה תחילה את החתולים, אחר כך את היחס האימהי כלפיהם, ורק לבסוף את העובדה שללקוחה יש בעל, שיהיה ברור מי עומד בראש סדר העדיפויות המשפחתי כשבאים לפתוח את הארנק.
משתמש אחד גילה שאמזון מאמינה שהוא קורא ספרים בטלפון הנייד בזמן המקלחת. "כלומר, כן, אבל מה לעזאזל?", הגיב. משתמש אחר נתקל בקביעה שהוא "קצר מדי מכדי להגיע לתחתית ארגז בעומק 40 אינץ'", קצת יותר ממטר. מישהי נוספת גילתה שהחברה סבורה שיש לה "אבא גרוע". היא דווקא התפוצצה מצחוק ותהתה כיצד האלגוריתם עלה על זה. ואילו משתמש אחר הופתע לגלות שאמזון קבעה כי יש לו תינוק. "זה בהחלט חדשות בשבילי", כתב.
גם אנחנו הסתקרנו והחלטנו לבדוק מה אמזון חושבת עלינו. אחרי כל סיפורי האימה והעלבונות היצירתיים ברשת, התכוננו למפגש לא נעים עם האמת. אלא שהפרופיל שלנו התגלה כמאכזב למדי: אנחנו "כנראה מעדיפים יוגורט יווני", "כנראה אוהבים ערכות סלט מוכנות", "כנראה מעדיפים מוצרים אורגניים" וגם מי פה ללא אלכוהול. זהו, פחות או יותר. לא ניתוח אישיות, לא ביקורת על מבנה הגוף ולא עקיצה על חיי החברה. נראה שבעקבות המהומה המערכת החליטה להוריד קצת פרופיל.
אז מה בדיוק קרה שם? במאי האחרון השיקה אמזון את About You, תכונה חדשה שנועדה לאפשר ללקוחות לראות ולערוך את המידע שהחברה משתמשת בו כדי להתאים להם המלצות לקנייה. בארה"ב, שבה אמזון הפכה לחלק בלתי נפרד משגרת החיים של מיליוני משקי בית, היסטוריית ההזמנות יכולה לספר לא מעט על בעל החשבון: מה הוא אוכל, אילו בגדים הוא לובש, אילו תרופות ומוצרי טיפוח הוא רוכש, איך הוא מנקה את הבית ואילו אירועים משפחתיים הוא מתכנן.
המערכת מנתחת רכישות קודמות, חיפושים באתר, מוצרים שנשמרו ברשימות, ביקורות שהלקוחות כתבו ושיחות עם Alexa for Shopping, עוזרת הקניות של אמזון. המידע מחולק לקטגוריות כמו תחביבים, העדפות מוצרים, מותגים, בית ומשפחה. המטרה העסקית ברורה: ככל שהחברה יודעת יותר על הלקוח, כך היא יכולה להציע לו מוצרים שסביר שירצה לרכוש, ואולי אפילו לפני שחשב עליהם בעצמו.
אמזון מציגה דוגמאות תמימות בהרבה מאלה שהציפו את הרשת. למשל, מי שקונה בקביעות חלב צמחי עשוי לקבל המלצות על מוצרים נוספים שאינם מכילים חלב, ומי שמדבר עם אלכסה על המזון האהוב על החתול שלו יקבל הצעות לחטיפים מתאימים. אלא שבפועל מעידה על הורות, חיפוש אחר מוצר לטיפול באקנה לא אומר בהכרח שהקונה סובל מפצעונים, ורכישת טייץ מחטב בוודאי אינה הזמנה לחוות דעת על הישבן.
עם זאת, חשוב לסייג שלא כל האבחנות המשונות שהופצו ברשת נוצרו בהכרח בידי הבינה המלאכותית. המשתמשים יכולים להוסיף בעצמם פרטים לפרופיל, ולכן לא ניתן לאמת שכל אחד מצילומי המסך משקף מסקנה עצמאית של המערכת.
מעבר לבדיחות, התופעה מעלה גם שאלות על פרטיות. אמזון אוספת מידע על הרגלי הקנייה של לקוחותיה כבר שנים, אבל הצגתו כרשימת מסקנות אישיות ממחישה כמה פרטים אפשר להסיק מפעולות יומיומיות ופשוטות. לקוחה אחת סיפרה שהזדעזעה לגלות שהמערכת שמרה פרטים שכתבה בעבר בביקורות על מוצרים. מה שנראה לה כמו המלצה לקונים אחרים הפך לחלק מפרופיל אישי שנבנה עליה.
באמזון מסבירים כי המשתמשים יכולים לתקן מסקנות שגויות, להוסיף פרטים או להסיר מידע שאינם רוצים שישמש להתאמה אישית. עם זאת, אין אפשרות לכבות לחלוטין את התכונה, והסרת מסקנה מהפרופיל אינה בהכרח מוחקת את המידע המקורי שעליו התבססה. החברה סירבה להתייחס לחלק מהתגובות שהופנו אליה בעקבות הפרסומים.
למי שרוצה להצטרף לחגיגה ולגלות מה אמזון חושבת עליו, גם אם בישראל היסטוריית ההזמנות שלו צנועה בהרבה מזו של הלקוח האמריקני הממוצע, הדרך פשוטה יחסית. באפליקציית Amazon Shopping נכנסים ללשונית Me (סמל האדם בתחתית המסך), לוחצים על השם ובוחרים About You. בחלק מגרסאות האפליקציה אפשר להגיע דרך Account, משם Shopping Preferences ולבסוף About You.
באתר במחשב מעבירים את העכבר מעל Account & Lists בפינה הימנית העליונה, לוחצים על השם או על Who's Shopping?, בוחרים את הפרופיל ונכנסים ל-About You. מסלול חלופי הוא Account, אחריו Your Shopping Preferences, ובתחתית העמוד Manage Your Information. שם אפשר לעיין במסקנות, לערוך אותן או להסיר כל אחת בנפרד.
אפשר גם לשאול את Alexa for Shopping באנגלית: "What do you know about me?" רק כדאי להיערך לאפשרות שהתשובה תהיה קצת יותר אישית מכפי שהתכוונתם.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.