שיעור 1 — מהו סוכן
מדריך למידה להרצאה שכבר הועברה. הוא אינו מחליף את השקפים.
הסימון נשמר רק בדפדפן הזה. הוא אינו רישום אקדמי ואינו נשלח לשרת.
מטרות
- להגדיר סוכן בלי להזדקק למודל שפה.
- להבחין מי בוחר את הפעולה הבאה: אדם, תהליך קבוע, או מודל.
- לראות למה תוצאה טובה בקלט אחד אינה כלל.
הגדרה
סוכן הוא מערכת שצופה בסביבה ובוחרת פעולות כדי להתקדם למטרה. שואב רובוטי עוקף מכשול, וחוזר לטעינה כשהסוללה חלשה. אין בדוגמה הזו מודל שפה, ויש בה סוכן.
בסוכן מבוסס מודל שפה החלוקה אחרת:
| חלק | תפקיד |
|---|---|
| מטרה | מה נחשב לסיום |
| הקשר | מה המודל רואה עכשיו |
| מודל | מציע את הפעולה הבאה |
| קוד וכלים | מבצעים רק פעולה מותרת |
| תצפית | חוזרת אל המודל |
המילה החשובה היא שהבחירה יכולה להשתנות אחרי תצפית. אם סדר הפעולות קבוע מראש, זו תוכנית עבודה, גם אם בכל שלב יושב מודל.
דוגמה: חלוקת עבודות
שני עובדים זהים. כל משימה רצה פעם אחת, בלי פיצול. הכלל הבסיסי שולח את המשימה הבאה לעובד הפחות עמוס. שוויון הולך לעובד הראשון.
במקרה א׳, מיון מהארוכה לקצרה מקצר את הסיום מ־5 ל־4. במקרה ב׳ שני הכללים מסיימים ב־7, וקיימת חלוקה שמסיימת ב־6. לכן אי אפשר להסיק מן המקרה הראשון שהכלל החדש תמיד עדיף.
הסוכן יכול להציע את שינוי הכלל ולבחור איזו בדיקה להריץ. את החלוקה עצמה מחשב קוד רגיל. אם הבדיקה של הגרסה החדשה נעצרת בזמן, אין דיווח שהיא עברה.
מה מותר לשנות
עריכת תוכנית מועמדת יכולה להיות מותרת. מחיקת בדיקת קבלה אינה מותרת, כי היא משפרת מספר בלי לשפר את התוכנית. פרסום שינוי דורש אישור. את שלוש ההחלטות האלה אוכף הקוד, לא משפט במערכת ההנחיות.
תרגיל קצר
בחרו משימה שעשיתם החודש. כתבו פעולה אחת שכלי יכול לבצע, שתי תוצאות אפשריות, ומה ישתנה בעקבות כל אחת. אחר כך כתבו פעולה שהמערכת חייבת לחסום בלי אישור.
לקריאה
- Wooldridge ו־Jennings, Intelligent Agents: Theory and Practice, 1995.
- Yao ואחרים, ReAct, ICLR 2023. arXiv:2210.03629
- Anthropic, Building effective agents, 2024.
הסימון נשמר רק בדפדפן הזה. הוא אינו רישום אקדמי ואינו נשלח לשרת.