p(doom)
כינוי להערכה של הסיכוי לאסון קיצוני הקשור ב־AI. אין הגדרה אחת מוסכמת לתוצאה או לאופק הזמן.
שני אנשים שאומרים ״עשרה אחוזים״ עשויים להתכוון לתוצאות ולתקופות שונות לחלוטין.
12 מושגים שחוזרים בדיון, עם הסבר קצר ודוגמה. ההגדרות הן מבוא ערוך בעברית; כשהמונח שנוי במחלוקת, גם זה חלק מההסבר.
12 מושגים
כינוי להערכה של הסיכוי לאסון קיצוני הקשור ב־AI. אין הגדרה אחת מוסכמת לתוצאה או לאופק הזמן.
שני אנשים שאומרים ״עשרה אחוזים״ עשויים להתכוון לתוצאות ולתקופות שונות לחלוטין.
מערכות שמפיקות תוכן, למשל טקסט, תמונה או קוד, על בסיס דפוסים שנלמדו מנתונים והקשר שניתן להן.
טיוטת מכתב יכולה להיות שימושית גם כאשר כל עובדה בה עדיין דורשת בדיקה.
מונח ליכולות רחבות במגוון משימות קוגניטיביות. הגדרות וספי מדידה שונים מובילים לטענות שונות על השגתה.
הצלחה מרשימה במבחן אחד אינה מוכיחה שליטה בכל משימה אנושית.
האתגר של הכוונת התנהגות המערכת למטרות ולמגבלות הרצויות. חלק מהקושי הוא להסכים מי קובע מה רצוי.
מערכת שמגדילה מדד מכירות תוך הטעיית לקוחות מקדמת מדד אחד ופוגעת במטרה רחבה יותר.
תשובה שמציגה מידע שגוי או לא מבוסס כאילו היה נכון. ניסוח בטוח ומפורט אינו הוכחה לאמינות.
המערכת מציינת מאמר עם כותרת ומחברים, אבל המאמר אינו קיים.
בדיקה שיטתית של התנהגות מערכת בתנאים מוגדרים. תוצאות הבדיקה מוגבלות למשימות, לגרסה ולתנאים שנבדקו.
מערכת שעברה מבחן במעבדה עשויה להיתקל במצבים אחרים אצל משתמשים.
מדד לפוטנציאל של הטכנולוגיה להשפיע על משימות בעיסוק. הוא אינו הסיכוי האישי לאבד עבודה.
הפקת טיוטה מהר יותר יכולה לשנות תפקיד גם בלי לבטל את המשרה.
אוטומציה מעבירה ביצוע של משימה למערכת. סיוע משפר את עבודת האדם. אותו כלי עשוי לשמש לשניהם.
סיכום שיחה יכול לעזור לנציג שירות; מענה אוטומטי מלא עשוי להחליף חלק מהפניות אליו.
מערכת שיכולה לבצע רצף פעולות כדי לקדם מטרה, לעיתים באמצעות כלים והרשאות. מידת העצמאות משתנה בין מערכות.
יש הבדל בין הצעת נוסח למייל לבין הרשאה לשלוח אותו או לשלם בשמכם.
סיכון שנובע גם מקשרים ותלות בין מערכות, מוסדות או שווקים. כשל מקומי יכול להתפשט מעבר למשתמש הראשון.
הסתמכות של גופים רבים על אותו ספק עלולה ליצור נקודת כשל משותפת.
מצב שבו שליטה בתשתיות, בנתונים או בהחלטות מרוכזת אצל מעט גורמים. זהו נושא כלכלי וממשלי, לצד השאלה הטכנית.
מי שמחזיק בתשתית יכול להשפיע על המחיר, הגישה והאפשרות לעבור לספק אחר.
השאלה אם למערכת יש חוויה סובייקטיבית. שיחה משכנעת אינה כשלעצמה הוכחה לתודעה, והערכת תודעה נותרת שנויה במחלוקת.
אמירה כמו ״אני מפחד״ יכולה להיות תוצר לשוני; היא אינה מכריעה מה המערכת חווה, אם בכלל.
לא נמצאה התאמה. נסו מושג אחר או מילה באנגלית.