הכלי הישראלי הזה יוודא שה-AI לא יתמלל אתכם בחשאי

הפיתוח Off the Record ירוץ על המחשב שלכם וימנע מכלי AI לתמלל אתכם בשיחות שתערכו. ככה זה עובד

מקור: Off the Record

תראו, אני חייב להגיד שתמלול שיחות בעזרת AI הפך את חיי כעיתונאי להרבה (אני כותב פעם אחת "הרבה", אבל תכפילו פי קווינטיליון לפחות) יותר קלים. תמלול של ראיון למשל, שפעם היה אורך כמה שעות טובות, נעשה עכשיו בדקות ומפנה לי זמן להתעסק בכתיבה עצמה.

אבל אני לגמרי מבין שלא כולם אוהבים או מתחברים לקטע שמה שהם אומרים ומספרים בזומים ובפגישות מגיע לכלי AI, מוקלט, מעובד ועשוי לשמש לאימון המודלים הרעבים של חברות ה-AI. אז אם אתם מהסוג השני, יש לנו כלי ישראלי חדש שיסגור לכם פינה.

"להחזיר לאנשים את הבחירה לגבי דברים שהם אומרים"

הכלי הישראלי Off the Record מבטיח להגן עליכם מתמלול שיחות על ידי כלי AI באפליקציות שונות במחשב – בין אם זה כלים ייעודיים בתוך Google Meet, זום וכדו' או בעזרת כלים חיצוניים כמו Google Edge AI Foresight שנחשף בשבוע שעבר.

"הרעיון התחיל ממשהו שראיתי קורה בראיונות עבודה, מועמד נשמע מבריק בזום, ואז בראיון פנים מול פנים מתברר שיש פער גדול בין מה שהוא יודע לבין התשובות שנתן בשיחה. יש היום כלים שמקשיבים לראיון ומזינים למועמד תשובות בזמן אמת, וזה מאוד הפריע לי. זה מבזבז למראיינים זמן, ובסוף גם גורם לפספס מועמדים טובים באמת", אומר לנו רון מסאס, המפתח שמאחורי הכלי. מסאס הוא חוקר חולשות אבטחה ויזם עם דיי-ג'וב בתחום הסייבר וחברה בשם Breakpoint, שמסייעת לחברות לזהות חולשות ולהגן על עצמן. במקביל הוא גם יצר פרויקט בשם Weird Machines העוסק בפרטיות בתחום ה-AI, ו-Off theRecord הוא המוצר הראשון במסגרת הפרויקט.

הכלי מיועד לא רק לריאיונות באפליקציות שיחות, אלא לכל כלי מתמלל כמו הכלי שגוגל הציגה בשבוע שעבר, שיכול לרוץ ישירות על המחשב, מבלי שהצד השני יודע בכלל שהוא מתומלל; זאת לצד כלים כמו זה של OpenAI, שהוציאה את תוסף Meetings ל-ChatGPT, שמתמלל ומסכם שיחות בלי שבוט מצטרף לפגישה. "אלה כלים שימושיים, אבל הצד השני לא בהכרח יודע שהם פועלים. OpenAI מבקשת מהמשתמש לקבל הסכמה, אבל התוסף עצמו לא מודיע לשאר המשתתפים. דברים שאמרתם מתוך מחשבה שהם נשארים ביניכם יכולים להפוך לטקסט שאפשר לשמור, לחפש בו ולהעביר הלאה. רציתי להחזיר לאנשים קצת יותר בחירה לגבי מה קורה עם הדברים שהם אומרים".

אז איך הוא פועל?

מבחינה טכנית, הוא מסביר, Off theRecord משנה את הקול שלכם בזמן אמת. הוא עושה שינויים קטנים באודיו, בדיוק במקומות שמודלי תמלול נשענים עליהם כדי לזהות מילים. האדם בצד השני עדיין שומע ומבין אתכם, אבל מודל התמלול מתקשה להבין את מה שנאמר ומפענח את הנאמר כג'יבריש. כל העיבוד הזה כמובן רץ מקומית על המחשב, בלי לשלוח את הקול לענן. מסאס בנה את המודל בעצמו ומשתף כי כל התהליך ארך כחודש של לילות וסופי שבוע: "התחלתי מאלפי הקלטות של אנשים מדברים, שזמינות בחינם ב-Hugging Face. על כל הקלטה הרצתי תהליך שמחפש שינויים קטנים בקול שיגרמו למודלי תמלול להיכשל. זה תהליך כבד חישובית, שלקח בערך דקה עד ארבע דקות להקלטה, אז אי אפשר להריץ אותו כמו שהוא תוך כדי שיחה. עם אלפי ההקלטות האלה אימנתי מודל קטן שמייצר את אותה הגנה בפחות מ-10 מילי-שניות, וזה מה שמאפשר למוצר לעבוד בזמן אמת".

האתגר המרכזי, לדבריו, היה לקחת משהו שעובד בתהליך איטי וכבד ולהפוך אותו למשהו שאפשר להריץ תוך כדי דיבור. הוא בחן את הכלי שלו מול מנועי תמלול פתוחים וסגורים, כמו AssemblyAI, Whisper, gpt-transcribe ו-gpt-live-transcribe של OpenAI, ElevenLabs Scribe v2 ועוד: "בבדיקות שלי הוא הצליח לשבש את התמלול בכולם, גם בזמן אמת וגם בדיעבד, כשהעברתי להם קובץ שלם של השיחה". עם זאת הוא מסייג שהכלי לא מבטיח למנוע את תמלול ההקלטה בשום מצב, מכיוון שכל עוד שבני אדם מבינים את הדיבור אפשר לבנות גם מודל שיבין אותו. הוא אומר כי המטרה היא להפוך את זה לקשה ויקר יותר, "כך שהתמלול ידרוש מאמץ מכוון ולא פשוט יקרה אוטומטית ובשקט בכל שיחה".

נכון לעכשיו ל-Off theRecord יש גרסת מק שפועלת בעזרת מיקרופון וירטואלי שמשנה את הקול שלכם קלות בשיחות באפליקציות שונות כמו Zoom, Meet, Teams ודומיהן. הכלי זמין בתוכנית חינמית וכולל גם מנויים בתשלום. "אני כן כבר רואה שימוש יומיומי, בעיקר בראיונות עבודה. זה מבחינתי סימן ראשוני שאנשים מוצאים בו ערך, אבל עדיין מוקדם לדעת כמה מהם יבחרו לשלם", הוא משתף.

בקרוב הגאדג'ט

מסאס מספר לנו כי הוא עובד גם על מכשיר פיזי בשם Off theRecord Stick שיסייע לכם בהטרלת כלי AI לתמלול מבלי להיות תלויים במערכת ההפעלה. לדבריו, המודל מספיק קטן כדי לרוץ על חומרה זולה, והמכשיר אמור לשבת בין האוזניות או המיקרופון של לבין הטלפון, המחשב או מכשיר אחר, ולעבד את הקול בדרך. הסייג היחיד הוא פעולה חלקית מול מכשירים פיזיים להקלטה ותמלול עם AI, כמו Plaud.

המכשיר מוגדר ב-Pre-Order ויעלה לכם 60 דולר כשיהיה מוכן להגיע למשתמשים ראשונים – אם תהיו מעוניינים בו. מסאס מספר לנו כי יש כבר אבטיפוס עובד למכשיר, שמתוכנן לצאת בינואר הקרוב.