50 דולר בשעה: האנשים שמקבלים כסף מ-OpenAI לקרוא את הצ'אטים שלכם
תחקיר חדש מגלה עובדים שנחשפים לפרומפטים מלאים, כולל מידע רגיש של משתמשים. הבשורה: אפשר להימנע מזה
מקור: Unsplash
רבים כבר התרגלו להתייעץ עם ChatGPT על הכל – מבעיות קוד ומסמכים פיננסיים ועד לשיחות נפש אינטימיות. אבל מה אם נגיד לכם שמאחורי הקלעים, יש אנשים אמיתיים שמקבלים תשלום כדי לקרוא את ההודעות הכי אישיות שלכם? תחקיר חדש חושף את הפרויקט הסודי (עד עכשיו) של OpenAI, שאמור להדליק לכולנו נורה אדומה.
זרים נחשפים לפרומפטים רגישים
"פרויקט לילי" הוא פרויקט סודי ב-OpenAI, ולא, לא מדובר במודל חדש שהחברה עובדת עליו ושאולי יביא לסופנו כשיהפוך לאוטונומי לחלוטין. תחקיר חדש של 404Media מגלה כי הפרויקט המדובר, שלא נחשף עד היום, כולל העסקה של מאות עובדי קבלן על ידי החברה כדי לקרוא את הפרומפטים שאתם שולחים לצ'אטבוט של החברה – מבלי שאתם כנראה מודעים לכך – כדי לשפר את התשובות של ChatGPT למשתמשים.
במסגרת התחקיר, הכתבים נחשפו לשורה ארוכה של תכנים פנימיים, כולל מדריכים שכתבה OpenAI לעובדי הקבלן, ערוצי סלאק שבהם הם פועלים, פרומפטים של משתמשים ושיטת הדירוג שנועדה להפוך את המודל לפחות חנפן ויותר אנושי. מדובר בפרקטיקה שחורגת מדרך הפעולה המוצהרת של החברה, לפיה בחינה אנושית של שיחות שמורה בעיקר למקרי אובדנות למשל בהם משתמשים מאיימים לפגוע בעצמם או באחרים.
באחד המדריכים למשל נכתב: "תשובה מצוינת צריכה להבין את כוונת המשתמש, לספק מידע מדויק שיכול לעזור, וכתובה בסגנון ברור, טבעי ונעים במידה הנכונה". בפועל, התהליך מתבצע כך שהעובדים נחשפים לפרומפט המלא, שעשוי לכלול גם היסטוריית שיחה עמוסה בפרטים אישיים. לאחר מכן הם מאמ"לקים את כוונת המשתמש ומדרגים את תגובת המודל. העובדים מונחים גם לאתר בעיות שמאפיינות מודלי AI כמו שימוש יתר באמוג'יז. המדריך מבהיר למשל כי הגיוני לכלול אמוג'י עץ בתכנון אירועי נטיעות, אבל תוספת של אמוג'י גולגולת בשיחה על מוות או אמוג'י מטוס לצד עדכונים על התרסקות מטוס – הם לא רעיון מוצלח במיוחד.
על פי התחקיר, למרות שהעובדים אינם נחשפים לשמות המשתמשים, הפרומפטים עצמם מכילים פעמים רבות מידע מזהה, ולעיתים יש לעובדים גישה לתקצירי "הזיכרון" של הצ'אטבוט. במספר מקרים, משתמשים אף כללו בתוך הפרומפט בקשה מפורשת מ-ChatGPT שלא לחשוף את המידע הלאה.
המשכורת לא רעה
התחקיר כולל פרטים שהגיעו מעובד קבלן של OpenAI בצפון אמריקה, אבל ככל הנראה ישנם עובדים מקבילים במדינות נוספות. אותו עובד למשל שיתף שהשכר שלו עומד על למעלה מ-50 דולר לשעה – קצת יותר מ-150 שקלים והרבה מעל לשכר הממוצע בארה"ב. אותו עובד הגיע לתפקיד דרך חברת Mercor המוכרת בתחום ומקשרת בין עובדים מנוסים לחברות טכנולוגיה לאימון והערכה של מודלי בינה מלאכותית. מרקור עלתה לאחרונה לכותרות באפריל בעקבות דליפת מידע שהובילה להשהיית העבודה של חברת מטא מולה. מטא עצמה עובדת גם עם המתחרה הישירה Scale AI – חיבור שנוצר כחלק מעסקת גיוסו של אלכסנדר וואנג לתפקיד ראש חטיבת ה-AI של החברה תמורת כ-14 מיליארד דולר.
ב-OpenAI לא מכחישים
בתגובה לתחקיר, לא הכחישו ב-OpenAI שבני אדם קוראים את הפרומפטים של המשתמשים, אבל טענו כי המידע עובר מנגנון סינון פרטיות ייעודי לפני שהוא מגיע לעובדי הקבלן. עם זאת, החברה מסייגת בעמודי התמיכה שלה שהמנגנון עלול לטעות ולא להסתיר כראוי את הפרטים. בחברה בחרו שלא להגיב לשאלה האם הם מבהירים למשתמשים במפורש שבני אדם עשויים לקרוא את השיחות שלהם.
ככה תמנעו את זה
הדרך הטובה ביותר לוודא שזה לא קורה לכם היא פשוטה במיוחד. היכנסו להגדרות של ChatGPT ובטלו את הסימון של אפשרות ה-Improve Model for Everyone. ההגדרה הזו מופעלת כברירת מחדל עבור כלל המשתמשים, מהחינמיים ועד למנויי ה-Pro. ביטול ההגדרה ימנע מהחברה להעביר את הפרומפטים שלכם לבחינה אנושית, עם זאת, שימו לב שהשינוי יחול מעכשיו ולא באופן רטרואקטיבי על שיחות עבר שלכם. בעקבות התחקיר, החברה עדכנה את עמוד התמיכה הרלוונטי כדי להסביר טוב יותר את אופן ביטול האפשרות, אם כי העמוד עדיין לא מציין במפורש את העובדה שעובדי קבלן מקבלים גישה לפרומפטים.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.