לפני שורת הקוד הראשונה: מדריך מזורז לאפיון פרויקט AI
איך מגדירים את הבעיה העסקית, בוחרים את המודל המתאים ומונעים בזבוז טוקנים? כך תאפיינו פרויקט AI שמשפיע על השורה התחתונה
כולם רוצים לשלב סוכני AI בתהליכי העבודה, אבל לא תמיד מבינים למה (צילום: Unsplash)
מאת ערן פוקס
מודלי AI עובדים מהר, ומבזבזים אפילו מהר יותר. למרות הפוטנציאל העצום שלהם בפרויקטים מורכבים, חוסר דיוק בשלב האפיון מתורגם לעוד הרצות, תיקונים ושעות פיתוח. וכשהתמחור הוא לפי צריכה, הסבבים האלה מייקרים את כל העסק. במקרים רבים, הבעיות מתגלות בשלב מאוחר מדי: פתרון שעובד יפה בקנה מידה קטן, עלול להתגלות כיקר או לא מדויק כשהוא מתרחב לתהליך ארגוני מלא.
כדי לממש את הפוטנציאל בלי לבזבז זמן ותקציב, צריך להתחיל לתכנן כבר בשלב האפיון. הנה מדריך מזורז לאפיון פרויקט AI, שיעזור לכם לעבוד מדויק מהרגע הראשון – עוד לפני שכתבתם שורת קוד אחת.
התחילו בערך העסקי, לא בטכנולוגיה
כולם רוצים לשלב סוכני AI בתהליכי העבודה, אבל לא תמיד מבינים למה. לכן, הצעד הראשון באפיון מוצלח מתחיל בהגדרת הבעיה ומדדי הצלחה ברורים. זכרו: לתקן טעות בשלב האפיון זה זול יותר מלתקן אותה אחרי שהיא נכנסת לפרודקשן.
התהליך שלנו בנוי מחמישה שלבים:
1. הגדרת הערך: מה אנחנו רוצים לשפר וכיצד נמדוד את השיפור. לדוגמה: קיצור זמני טיפול, הפחתת שיעור טעויות וצמצום עבודה ידנית. הגדירו את המצב הקיים ואת היעד שאליו אתם שואפים. בלי נקודת התחלה ויעד ברור, קשה לדעת אם הפרויקט הצליח.
2. מיפוי תהליך העבודה הנוכחי: אנחנו יושבים עם האנשים שעושים את העבודה בפועל, ולא רק עם ההנהלה. הם אלה שיודעים איפה התהליך נתקע, היכן יש כפילות בין מערכות ואיזה מידע דרוש להם כדי להתקדם.
3. מיפוי המידע וההרשאות: איפה המידע הארגוני נמצא, עד כמה הוא אמין ועדכני ומי מורשה לראות מה. בפרויקטים ארגוניים זה בדרך כלל אחד החלקים הקריטיים ביותר: הסוכן צריך לקבל גישה למידע הדרוש למשימה, בלי לחשוף אותו למי שאינו מורשה לצפות בו.
4. הגדרת התפקיד של פתרון ה-AI: מתי הסוכן מציע דרך פעולה, מתי הוא מורשה לבצע אותה בעצמו ובאילו מקרים הוא חייב לערב גורם אנושי. חשוב להגדיר גם מה קורה כשחסר מידע או כשהמשימה נכשלת. הגדרות ברורות, דוגמאות ומקרי קצה הופכים את האפיון לבסיס מעשי לפיתוח ולבדיקות.
5. ארכיטקטורה ו-POC: בוחרים כלים, מודל ושיטת חיבור למידע, ומגדירים הוכחת היתכנות על נתונים אמיתיים ולא רק על דוגמה "נקייה". קל להרשים כשהקבצים מסודרים, אבל המציאות הארגונית שונה: תיקיות מלאות בגרסאות ישנות שסותרות זו את זו, טפסים עם שדות ריקים ומידע לא מעודכן. המבחן הוא גם ביכולת להתמודד עם החריגים האלה. לכן, כבר בשלב האפיון חשוב לבנות סט בדיקה שמבוסס על נתונים אמיתיים בארגון, ולערב ביצירתו את העובדים שמכירים את מקרי הקצה.
בחרו מודל בהתאם לצורך, לא לפי הגודל
הטעות הנפוצה היא לבחור את המודל "הכי חזק", אבל זאת לא החלטה שכדאי לקבל לפי תחושת בטן. בנו סט בדיקה שמבוסס על משימות ונתונים אמיתיים מהארגון, והשוו בין המודלים לפי איכות התוצאה, העלות וזמן התגובה. במשימות קטנות וממוקדות שחוזרות על עצמן, מודל קטן עשוי לספק את האיכות הנדרשת בעלות נמוכה יותר. לפעמים הפתרון הנכון הוא שילוב בין מודלים, תוך ניתוב מקרים מורכבים למודל החזק. ולפעמים חוק עסקי פשוט או אוטומציה רגילה יעשו את העבודה טוב וזול יותר. לא כל בעיה היא בעיית AI.
בבואנו לבחור מודל, יש להביא בחשבון את השיקולים הבאים:
- סוג המשימה: סיווג פניות או חילוץ שדות ממסמכים אחידים עשויים להתאים למודל קטן, בעוד שניתוח מידע מורכב והסקת מסקנות עשויים להצדיק מודל חזק יותר. בדקו את הביצועים גם במקרים החריגים, ולא רק בדוגמאות הקלות.
- דיוק מול עלות ומהירות: בתהליך שרץ עשרות אלפי פעמים בחודש, גם פער קטן בעלות לפעולה מצטבר. מדדו כמה עולה להשלים משימה באיכות הנדרשת, כולל ניסיונות חוזרים ותיקונים. גם זמן התגובה חשוב: נציג שירות שממתין לתשובה בזמן שיחה זקוק למענה מהיר יותר מתהליך שרץ ברקע.
- אבטחה, רגולציה ומיקום המידע: במיוחד בבריאות, בפיננסים ובביטחון. בדקו היכן המידע מעובד ונשמר, מי יכול לגשת אליו ואם תנאי השירות והפריסה מתאימים לדרישות הארגון.
- אינטגרציה: בדקו כיצד הפתרון משתלב במערכות, בניהול הזהויות ובהרשאות הקיימות. עבור ארגון שעובד בסביבת מיקרוסופט, האפשרות להשתמש בתשתיות שכבר קיימות היא שיקול משמעותי בבחירה.
איך אפיון נכון משפיע על עלויות ועל צריכת טוקנים?
כשהתמחור מבוסס על צריכה, כל החלטה בתכנון היא גם החלטה כלכלית. מהניסיון שלנו, השקעה של כ-10% נוספים באפיון יכולה לחסוך כ-60% מעבודת הפיתוח, וזה עוד לפני החיסכון בעלויות ההפעלה השוטפות. ההשפעה של האפיון נמשכת גם אחרי העלייה לאוויר: מידע מיותר שנשלח למודל או קריאה שאפשר היה לחסוך חוזרים על עצמם בכל הפעלה. בהיקפים גדולים, גם בזבוז קטן מצטבר.
אלה השיקולים שאנחנו מביאים בחשבון כבר בשלב התכנון:
- כמה מידע נכנס לכל בקשה: אין סיבה לשלוח למודל את כל התיק בכל שאלה. שלפו את המידע הרלוונטי למשימה, תוך שמירה על ההקשר הדרוש לתשובה. כך אפשר לצמצם את צריכת הטוקנים בלי לפגוע באיכות.
- ניתוב בין מודלים: משימה פשוטות מפנים למודל זול יותר שנבדק ונמצא מתאים, ומקרים מורכבים מעבירים למודל חזק יותר. הגדירו מראש מתי מתבצע המעבר, כדי להימנע מניסיונות חוזרים שמבטלים את החיסכון.
- שליטה על סוכנים: סוכן שרץ בלולאות, מנסה שוב ושוב וקורא לכלים בלי גבול עלול לשרוף תקציב מהר מאוד. הגדירו לו גבולות.
- הערכת היקפים: כמה משתמשים צפויים, כמה משימות יבצעו ביום וכמה קריאות למודל ולכלים נדרשות לכל משימה. העריכו את צריכת הטוקנים ואת יתר רכיבי העלות, ובדקו גם מה קורה בשעות עומס או כשהשימוש גדל.
- ניטור שוטף: עקבו אחר העלות לכל תהליך, לצד איכות התוצאה ושיעור ההשלמות המוצלחות. עלות כוללת לבדה לא תגלה אם ההוצאה עלתה בגלל יותר שימוש או בגלל סוכן שמנסה לבצע את אותה הפעולה שוב ושוב.

כל החלטה שתקבלו בתחילת הדרך תשפיע על ההצלחה, העלויות והשורה התחתונה (דימוי: Dreamstime)
על מה חשוב להקפיד במיוחד לפני שמתחילים לפתח?
לפני שאתם בכלל כותבים שורת קוד, הכינו את הקרקע ובדקו:
1. שהמידע מוכן: נגיש, עדכני ובאיכות שמתאימה למשימה. מידע חסר או סותר עלול להוביל לתשובה שנשמעת משכנעת, אבל מבוססת על הנתונים הלא נכונים.
2. שההרשאות והאבטחה מתוכננות: הגדירו באיזו זהות הסוכן פועל, לאיזה מידע הוא יכול לגשת ואילו פעולות מותר לו לבצע.
3. שיש אחראי עסקי ומדדי הצלחה: הגדירו אדם בצד העסקי שאחראי על התוצאה, נקודת בסיס להשוואה ויעד מדיד. קבעו מראש גם מי בודק את התוצאות ומחליט אם הפתרון מוכן לשימוש.
4. שיש תוכנית הטמעה: גם הפתרון הטוב ביותר לא שווה הרבה אם העובדים לא סומכים עליו או לא יודעים איך לשלב אותו בעבודה. הסבירו מה הוא יודע לעשות, מתי צריך לבדוק את התוצאה ואיך מדווחים על טעות. אפיון טוב כולל גם את האנשים, לא רק את המערכות.
כשה-AI מתחבר לתשתית קיימת
ההחלטות האלה לא מתקבלות בחלל ריק. בארגון כבר קיימות מערכות, הרשאות ומקורות מידע, והבחירה בטכנולוגיה צריכה להביא אותם בחשבון. עבור ארגונים שעובדים בסביבת מיקרוסופט, חלק משמעותי מהתשתית הדרושה כבר נמצא בשימוש.
עובדים רבים פוגשים את קופיילוט דרך כלי העבודה היומיומיים, אבל האפשרויות מתרחבות כשה-AI מתחבר לתהליכים, למערכות ולידע של הארגון. המידע הדרוש לטיפול בפנייה או לקבלת החלטה מפוזר במסמכים, בהתכתבויות, ב-Teams ובמערכות ה-CRM. חיבור למקורות הרלוונטיים מאפשר לסוכן לפעול על בסיס ההקשר העסקי של המשימה, ולעתים גם לבצע פעולות במערכות עצמן.
ניהול הזהויות, ההרשאות ובקרות האבטחה הקיימות יכול לשמש בסיס לפתרון ולצמצם את הצורך לבנות מנגנונים מאפס. עם זאת, עצם החיבור למערכת לא מבטיח שהסוכן ייחשף רק למידע המתאים. צריך להגדיר ולבדוק מה הוא רשאי לקרוא, מה הוא רשאי לשנות ובאיזו זהות הוא פועל.
בחירת הכלים נגזרת מהמשימה: Microsoft 365 Copilot מסייע בעבודה היומיומית בסביבת Microsoft 365; לצדו, Copilot Studio מאפשר לבנות סוכנים מותאמים ולחבר אותם למידע ולתהליכים עסקיים; ו-Microsoft Foundry מספק כלים לפיתוח פתרונות AI עם שליטה רחבה יותר במודלים וברכיבי הפתרון. בהתאם לצורך, אפשר לשלב בין הכלים באותו פתרון.
מבחן התוצאה
מספר הסוכנים שבניתם ושיעור העובדים שמשתמשים בקופיילוט מספרים רק חלק מהסיפור. השאלה היא מה השתנה בפעילות העסקית: האם זמן הטיפול התקצר, האם יש פחות עבודה ידנית, האם העובדים מצליחים לטפל ביותר משימות בלי לפגוע באיכות והאם שיעור הטעויות ירד. לצד השיפור, צריך לבחון גם את עלות ההפעלה והתחזוקה, כדי להבין אם ההשקעה משתלמת.
ככל שהמודלים הופכים זמינים לכולם, המשקל של הידע הארגוני ושל היכולת להשתמש בו גדל. היתרון נבנה בחיבור בין המודל לבין הנתונים, תהליכי העבודה והניסיון שנצבר בארגון. אפיון נכון הוא המקום שבו מגדירים איך החיבור הזה יעבוד בפועל. לכן, עוד לפני שורת הקוד הראשונה, כדאי להיות מסוגלים לענות על שאלה פשוטה: מה יעבוד טוב יותר בארגון כשהפתרון יעלה לאוויר, ואיך נדע שזה באמת קרה?
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.