דף הבית › בלוג טכנולוגיה › בינה מלאכותית
סוכני AI לחברות: מה הם, מה הם לא, ומתי כדאי להקים אחד
סוכן AI הוא תוכנה שמשתמשת במודל שפה כדי להחליט על צעדים ולהפעיל כלים עד שהמשימה מושלמת. כאן נסביר מתי זה משתלם, מתי מספיק צ'אטבוט ואילו בקרות זה דורש.
סוכן AI הוא תוכנה שמקבלת מטרה, משתמשת במודל שפה (LLM) כדי להחליט מה הצעד הבא, מפעילה כלים (שאילתה למסד נתונים, שליחת אימייל, קריאה ל-API) וחוזרת על המחזור עד שהיא מסיימת או עד שאדם עוצר אותה. ההבדל מצ'אטבוט אינו במודל: הסוכן פועל על מערכות אמיתיות.
מה זה סוכן AI
לסוכן יש ארבעה חלקים: מטרה שכתובה בשפה טבעית, מודל שמנמק, סט כלים עם הרשאות מוגדרות, ומגבלה על מספר הצעדים או על התקציב. אם אחד מהארבעה חסר, זה לא סוכן: זה פרומפט ארוך או סקריפט בלי בקרה.
צ'אטבוט מול סוכן: הטבלה שמונעת רכישות שגויות
| צורך | צ'אטבוט | סוכן |
|---|---|---|
| לענות על שאלות על מסמכים | מספיק | מיותר |
| למיין אימיילים ולפתוח כרטיסי תמיכה | לא מספיק | מתאים |
| להתאים חשבוניות מול הבנק | לא מספיק | מתאים, עם אישור אנושי |
| לענות ב-WhatsApp בתשובות קבועות | מספיק | מיותר |
הכלל המעשי: אם המשימה מסתיימת בתשובה, מספיק צ'אטבוט עם הידע של החברה. אם המשימה מסתיימת בפעולה על מערכת אחרת (ליצור, להעביר, לשלוח, לאשר), צריך סוכן.
מתי משתלם להקים סוכן
- המשימה חוזרת כמה פעמים ביום, והיום אדם עושה אותה בהעתקת נתונים בין מסכים.
- הכללים נכנסים במסמך של עמוד או שניים; אם אף אחד לא יכול לכתוב אותם, גם הסוכן לא ינחש אותם.
- קיים API או אינטגרציה לכל מערכת שהוא נוגע בה; הסוכן לא צריך לתפעל מסכים בעיוורון.
- טעות היא הפיכה או עוברת אישור אנושי לפני שהיא נכנסת לתוקף.
אם משימה לא עומדת בארבע הנקודות, קודם מתקנים את התהליך או את האינטגרציה; אחר כך עושים אוטומציה.
בקרות מינימליות לפני עלייה לייצור
- הרשאות מינימליות. לסוכן יש פרטי גישה משלו, עם גישה רק למה שהוא צריך, ואפשר לבטל אותם בלי לגעת באף אחד אחר.
- תיעוד של כל פעולה. מה התבקש, באיזה כלי השתמש, מה ענה וכמה זה עלה. התיעוד הזה הוא הראיה ש-ISO/IEC 42001 דורש.
- מגבלות קשיחות. מספר מרבי של צעדים, כסף וזמן לכל משימה. כשחורגים מאחת מהן, הסוכן עוצר ומודיע.
- אישור אנושי לכל פעולה בלתי הפיכה: תשלומים, מחיקות, שליחות המוניות.
- בדיקות עם מקרים אמיתיים מותממים לפני חיבור לנתונים חיים.
איך מתחילים בלי לסכן את התפעול
בחרו משימה אחת משעממת ומדידה, למשל מיון אימיילים של תמיכה ופתיחת הכרטיס עם הנתונים שכבר חולצו. מדדו כמה זמן זה לוקח היום, הריצו את הסוכן במצב קריאה בלבד במשך שבוע (הוא מציע, לא מבצע), השוו את ההצעות שלו למה שהצוות עשה, וכשהדיוק יציב, תנו לו הרשאת כתיבה. אותו תיעוד משמש אחר כך כראיה לאיכות.
סוכן שלא משאיר עקבות אי אפשר לבקר, ומה שאי אפשר לבקר אי אפשר להסמיך.
יש לכם מקרה דומה? ספרו לנו על הרעיון ונגיד לכם מה כדאי, כמה זמן זה לוקח ואיך אנחנו שולטים בזה.
ספרו לנו על הרעיון שלכםhola@neona.tech