יוזמה עצמאית לציבור ידע על בינה מלאכותית · 21.09.2026
שמירה, שיתוף וכלי קריאה
רשימת הקריאה שלי

התאמת הקריאה

ההעדפות נשמרות בדפדפן הזה בלבד.

לראות את הקשרים

אותה טכנולוגיה.
שאלות שונות על העתיד.

המחלוקת אינה ציר אחד של ״בעד״ או ״נגד״. בחרו נקודת מבט וראו מה היא מדגישה, איזה מידע היא צריכה ומה היא עלולה להחמיץ.

מפת הגישות

מיפוי מערכתי לצורך הסבר. הגישות חופפות ואדם יכול להחזיק בכמה מהן.

האם נוכל להגביל מערכת חזקה מאיתנו?

מוקד תשומת הלב

התאמה בין מטרות, התנהגות והרשאות. מבחנים שמגלים התנהגות בעייתית ומנגנוני עצירה.

ראיות רלוונטיות

מבחני יכולת והתנהגות, ניתוחי כשל ומחקר יישור.

נקודה עיוורת אפשרית

התמקדות בעתיד רחוק עלולה להשאיר נזקים קיימים מחוץ לתמונה.

להעמקה ולמקורות ←
מנגנון אפשרי, לא נבואה

איך יכולת הופכת לסיכון?

יכולתהמערכת מסוגלת לבצע משימות משמעותיות.
מטרהמה שמתקבל כתוצאה עלול לסטות מהכוונה.
גישה לפעולההרשאות ומשאבים מאפשרים להשפיע על העולם.
פיקוח לא מספיקחריגה אינה מזוהה או נעצרת בזמן.
מסגרת מושגית המבוססת על שאלות יישור ושליטה. גורמים נוספים יכולים להשפיע, והשלבים אינם נוסחה להסתברות. טיעון המטרות · מקרה לבחינה
איפה אפשר להתערב?

להגביל הרשאות, לבדוק בתנאים מציאותיים, להפריד בין המלצה לביצוע, לחייב אחריות ולבחון עצירה בפועל. אלו כיווני פעולה, ויעילות כל מנגנון דורשת בדיקה.

כלכלה ותעסוקה

חשיפה אינה אבטלה.

שני גופים, שתי הגדרות. המספרים מתארים חשיפה אפשרית לשינוי טכנולוגי, ולא שיעור אנשים שיפוטרו.

ILO / NASK, 2025: כ־25% מהעובדים בעולםמקצוע עם מידה כלשהי של חשיפה ל־GenAI. המקור והשיטה
IMF, 2024: כ־40% מהמשרות בעולםחשיפה ל־AI בהגדרה רחבה יותר. המקור והשיטה
כל פס מוצג מתוך 100% של אוכלוסיית המדד שלו. המדדים אינם בני החלפה; הבדל של 15 נקודות אינו שינוי לאורך זמן או סתירה בין המחקרים.
לקרוא הסתברויות נכון

שני מספרים שקל לבלבל.

38%–51%

שיעור מתוך המשיבים

בסקר חוקרי AI, שיעור זה מהמשיבים נתן לפחות 10% לתוצאות קשות כהכחדה, בהתאם לנוסח השאלה.

10%+

הערכת סיכון של אותם משיבים

זה הסף שהם נתנו בתשובה. אין כאן מדידה של ההסתברות האמיתית לאסון, ואין הסכמה על מספר אחד.

מקור: Thousands of AI Authors on the Future of AI, גרסה 3. זהו סקר דעות ותחזיות, לא ניסוי על תוצאות העתיד.

תרגיל מחשבה: שרשרת הנחות

איך משתנה תוצאה כשמשנים הנחות? הזינו הסתברויות לדוגמה. החישוב מדגים כפל הסתברויות מותנות בלבד. הוא אינו מודל מחקרי או אומדן p(doom).

12.5%

50% × 50% × 50% = 12.5%, תחת ההנחות שהוזנו.

השלב השני והשלישי מותנים בקודמיהם; לא הנחנו עצמאות. המציאות כוללת מסלולים נוספים וההמחשה אינה מחשבת סיכון כולל.

מה תרצו לחקור?

קיצור מקלדת: / לפתיחה, Esc לסגירה. השאילתה מופיעה בכתובת עמוד התוצאות.