בעמוד הזה
התאמת הקריאה
אותה טכנולוגיה.
שאלות שונות על העתיד.
המחלוקת אינה ציר אחד של ״בעד״ או ״נגד״. בחרו נקודת מבט וראו מה היא מדגישה, איזה מידע היא צריכה ומה היא עלולה להחמיץ.
מפת הגישות
מיפוי מערכתי לצורך הסבר. הגישות חופפות ואדם יכול להחזיק בכמה מהן.
האם נוכל להגביל מערכת חזקה מאיתנו?
התאמה בין מטרות, התנהגות והרשאות. מבחנים שמגלים התנהגות בעייתית ומנגנוני עצירה.
ראיות רלוונטיותמבחני יכולת והתנהגות, ניתוחי כשל ומחקר יישור.
התמקדות בעתיד רחוק עלולה להשאיר נזקים קיימים מחוץ לתמונה.
להעמקה ולמקורות ←מי מחזיק בהחלטות ומי יכול לערער?
ריכוז כוח, אפליה, פיקוח ציבורי, פרטיות והשתתפות מי שמושפעים מהמערכת.
ראיות רלוונטיותתיעוד שימושים, פגיעות, מבני שוק והליכי ערעור.
טיפול רק בנזק הנוכחי עלול להחמיץ שינוי חד ביכולות.
להעמקה ולמקורות ←מי נהנה מהפריון ומי נושא בעלות?
שינוי משימות, איכות עבודה, שכר, מיומנויות ומדיניות חלוקה.
ראיות רלוונטיותנתוני משימות, אימוץ בפועל, שכר ותעסוקה לאורך זמן.
תחזיות כמותיות עלולות להיראות ודאיות יותר מההנחות שמאחוריהן.
להעמקה ולמקורות ←אילו הזדמנויות נאבד אם נעצור?
שימושים מועילים והעלויות של עיכוב פיתוח, לצד תחרות וגישה רחבה ליכולת.
ראיות רלוונטיותתוצאות שימוש שנמדדו, ניסויים השוואתיים ועלויות חלופיות.
תועלת אפשרית אינה מבטיחה שליטה או חלוקה הוגנת.
להעמקה ולמקורות ←מתי אי־ודאות מצדיקה הגבלה?
הערכה לפני פריסה, אחריות, פיקוח והחלטות הפיכות כשהנזק האפשרי גדול.
ראיות רלוונטיותניתוח סיכון, עלות מניעה, יכולת אכיפה ואפקטיביות חלופות.
רגולציה לא מתאימה יכולה לחזק שחקנים גדולים או לפגוע במחקר פתוח.
להעמקה ולמקורות ←מה אנחנו מבקשים מהמערכת מעבר לתשובה?
משמעות, יחסים, אמון והנטייה להעניק למערכת סמכות מוסרית או רוחנית.
ראיות רלוונטיותמחקר שיח, התנהגות משתמשים וניתוח פילוסופי.
אנלוגיה לאל אינה הוכחה לאלוהות או להסבר יחיד של התעשייה.
להעמקה ולמקורות ←איך יכולת הופכת לסיכון?
איפה אפשר להתערב?
להגביל הרשאות, לבדוק בתנאים מציאותיים, להפריד בין המלצה לביצוע, לחייב אחריות ולבחון עצירה בפועל. אלו כיווני פעולה, ויעילות כל מנגנון דורשת בדיקה.
חשיפה אינה אבטלה.
שני גופים, שתי הגדרות. המספרים מתארים חשיפה אפשרית לשינוי טכנולוגי, ולא שיעור אנשים שיפוטרו.
שני מספרים שקל לבלבל.
שיעור מתוך המשיבים
בסקר חוקרי AI, שיעור זה מהמשיבים נתן לפחות 10% לתוצאות קשות כהכחדה, בהתאם לנוסח השאלה.
הערכת סיכון של אותם משיבים
זה הסף שהם נתנו בתשובה. אין כאן מדידה של ההסתברות האמיתית לאסון, ואין הסכמה על מספר אחד.
מקור: Thousands of AI Authors on the Future of AI, גרסה 3. זהו סקר דעות ותחזיות, לא ניסוי על תוצאות העתיד.
תרגיל מחשבה: שרשרת הנחות
איך משתנה תוצאה כשמשנים הנחות? הזינו הסתברויות לדוגמה. החישוב מדגים כפל הסתברויות מותנות בלבד. הוא אינו מודל מחקרי או אומדן p(doom).
50% × 50% × 50% = 12.5%, תחת ההנחות שהוזנו.
השלב השני והשלישי מותנים בקודמיהם; לא הנחנו עצמאות. המציאות כוללת מסלולים נוספים וההמחשה אינה מחשבת סיכון כולל.