AI Control: פיקוח גם כשאי אפשר להניח שהמודל משתף פעולה

מחבר או מפרסם המקור: Greenblatt, Shlegeris, Sachan & Roger · arXiv

בדיקת הרשומה: 2026-09-21

איך לקרוא את הרשומה

התקציר מציג את עיקרי הפרסום. הסעיפים שמתחתיו מפרטים את גבולות הטענה ואת היקף הבדיקה, כדי שתוכלו להחליט מה אפשר להסיק ממנו.

עיקר הדברים

בחינת פרוטוקולי פיקוח על מודל חזק בסביבה שבה נבדקת גם אפשרות של חבלה מכוונת. המחקר משתמש במשימות תכנות מוגדרות.

גבולות הטענה

תוצאות בסביבת ניסוי אינן מבטיחות שליטה במערכת עצמאית בעולם פתוח.

נקראו התקציר ופרטי הגרסאות, לא המאמר המלא..

התקציר הוא סיכום מקורי בעברית. הוא אינו תרגום מלא של המקור ואינו תמלול. לפני ציטוט חשוב לקרוא את הניסוח המקורי ואת ההקשר.

להצליב את הקריאה

קראו מסגרת מחקרית לצד מסגרת לניהול סיכונים. הבחינו בין תוצאה של ניסוי לבין החלטה על שימוש במציאות.