"מטריד ומסוכן במיוחד": "צבא הבוטים" של איראן - והחברה הישראלית שבמוקד
"צבאות הבוטים" של איראן וסין, החשש בארה"ב - והחברה הישראלית שבמוקד
בארה"ב מזהירים מקפיצת מדרגה דרמטית ומסוכנת בלוחמת התודעה ברשת: ב"ניו יורק טיימס" נחשף שאיראן וסין מפעילות קמפיינים אוטונומיים לחלוטין של בינה מלאכותית - ושזוהו גם קמפיינים שהופעלו מישראל. חברה מת"א עשתה שימוש בסוכני AI להשתלטות על אלף חשבונות - שהתערבו בשיח על הבחירות בישראל
גורמי מודיעין ואבטחה בארצות הברית מזהירים מפני קפיצת מדרגה דרמטית ומסוכנת בלוחמת התודעה ברשת: לראשונה, מדינות כמו איראן וסין, לצד חברות פרטיות מישראל, החלו להפעיל קמפיינים אוטונומיים לחלוטין של בינה מלאכותית ברשתות החברתיות. מדובר ב"צבאות בוטים" מסוג חדש לחלוטין, שאינם זקוקים עוד למפעיל אנושי ברקע. הם פותחים בעצמם פרופילים מזויפים, מייצרים תכנים, מגיבים לגולשים ומלהיטים את הדיון הציבורי ב-X, אינסטגרם, פייסבוק וטיקטוק, כמעט ללא מגע יד אדם.
החשיפה, שפורסמה ב"ניו יורק טיימס", מעוררת דאגה בוושינגטון, שם חוששים יותר מכל כי הטכנולוגיה החדשה תופנה באופן נרחב כדי להטות את דעת הקהל האמריקנית לקראת בחירות האמצע לנשיאות ולקונגרס בנובמבר. אם בעבר קמפיינים של השפעה זרה נדרשו להעסיק צוותים שלמים של "טרולים" או מפעילים אנושיים שחיברו טקסטים וניהלו חשבונות, הרי שכעת השילוב בין מודלי בינה מלאכותית בקוד פתוח לבין "סוכני AI" מאפשר להריץ מבצעי השפעה בהיקף חסר תקדים ובמינימום מאמץ.
לפי הדיווח, הגורמים שעמדו מאחורי מהלכי ההשפעה השתמשו במודלי בינה מלאכותית עוצמתיים בקוד פתוח שהגיעו מסין. מודלים אלה פתוחים לכל דורש להורדה ולשינוי, ובכך הם שונים באופן מהותי ממערכות סגורות של חברות אמריקניות כמו OpenAI, שפיתחה את ChatGPT, או אנתרופיק, מפתחת קלוד. בעוד חברות ענק יכולות להתערב ולחסום משתמשים המנצלים את המודלים הסגורים שלהן לרעה, מודלים בקוד פתוח מורדים ישירות לשרתים וציוד מחשוב פרטי. כתוצאה מכך, לשום חברת טכנולוגיה אין יכולת למנוע את הפעלתם או "למשוך את השקע".
הגורמים המפעילים לקחו את המודלים הללו, הסירו מהם את מנגנוני הבטיחות המובנים שאמורים למנוע יצירת פרופילים פיקטיביים או מניפולציות, וחיברו אותם ל"סוכני AI". אלו הן תוכנות עצמאיות שמסוגלות לתפעל אפליקציות, לפתוח חשבונות ברשתות, ולבצע משימות מורכבות בעצמן. בעזרת סוכנים אלה, המערכות פתחו רשתות של אלפי פרופילים פיקטיביים והזינו אותם באופן רציף בפוסטים בנושאי פוליטיקה ואקטואליה.
לצד הקמפיינים המדינתיים שהופעלו על ידי משטרי איראן וסין, זיהו חוקרי אבטחה וגורמי מודיעין בארצות הברית שני קמפיינים שהופעלו דווקא על ידי חברות מסחריות פרטיות שפועלות מישראל. ב"ניו יורק טיימס" נכתב כי אחת החברות היא IntelEye, חברה מתל אביב שהוקמה בשנת 2023 על ידי יוצאי ענקית הסייבר ההתקפי NSO – חברה שנכנסה בעבר לרשימה השחורה של הממשל האמריקני.
לפי גורמי אבטחה בארצות הברית שתושאלו על הקמפיין, פעילותה של IntelEye צדה כבר בתחילת השנה את עיניהם של המודיעין האמריקני ושל חברות המדיה החברתיות. החברה עשתה שימוש בסוכני AI מבוססי המודל הסיני DeepSeek כדי להשתלט על אלפי חשבונות ברשתות.
בפועל, כ-1,000 מהחשבונות הללו הפכו לפעילים והתערבו בדיונים הסוערים סביב הבחירות בישראל. החשבונות הפיקטיביים הגיבו לסרטונים ולפוסטים ברשתות, ניסו לקשור שיחות עם גולשים והפיצו תכנים שונים - חלקם תמכו בראש הממשלה בנימין נתניהו וחלקם התנגדו לו, במטרה ליצור מעורבות ולהלהיט את השיח.
מאור סלק, מייסד-שותף ב-IntelEye, אישר את דבר השימוש במודל הסיני ובשליטה בחשבונות, אך דחה בתוקף את הטענות כי החברה ניהלה קמפיין השפעה. "IntelEye אינה מפעילה קמפיינים של השפעה", אמר סלק ל״ניו יורק טיימס״. "העבודה שלנו עם DeepSeek נעשתה במסגרת ניסוי מחקרי והגנתי בלבד, שמטרתו הייתה להבין כיצד מודלים ללא מנגנוני בטיחות מספקים עלולים להיות מנוצלים לרעה, וכדי לשפר את היכולת לזהות פעילות כזו בעתיד".
סלק הודה כי החברה רכשה כ-10,000 חשבונות ברשתות החברתיות, מתוכם כ-1,000 הופעלו בפועל על ידי סוכני ה-AI, והוסיף כי המודל עצמו הוא שבחר את הנושאים והטקסטים שהופצו, ללא מעורבות אנושית ישירה. במבט לאחור, ציין סלק, היה על החברה ליידע את פלטפורמות המדיה החברתית על כך שהיא מבצעת ניסוי בשטחן.
מנגד, בענקית הטכנולוגיה מטא ראו את הדברים באור חמור בהרבה. דובר מטעם מטא מסר כי "מדובר ככל הנראה בניסיון מתואם ליצור חשבונות לא אותנטיים לרוחב מספר פלטפורמות", והבהיר כי החברה הסירה את מרבית החשבונות הללו באמצעות מערכות הזיהוי האוטומטיות שלה. בדוח שפרסמה מטא לאחרונה, הוזכרה גם קיומה של "פעילות מסחרית שבסיסה בישראל" אשר עשתה שימוש במערך AI מורכב ומתוחכם, ללא אזכור שמה המפורש של IntelEye.
במקביל, הקמפיין האיראני הוגדר על ידי גורמים אמריקניים כ״מטריד ומסוכן במיוחד״. לפי המודיעין האמריקני, איראן השתמשה באותה טכנולוגיה בדיוק כדי להציף את הרשת ברשת חשבונות מזויפים שהתחזו לאזרחים אמריקנים מן השורה, המתגוררים בערים מרכזיות בארצות הברית.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.