אב מנסה לתקן את יאנג, האנדרואיד האהוב על בתו. החיפוש מחזיר אותו לבחינת היחסים והזיכרונות בביתו, ולשאלה מה לא ראה כשהכול עבד.
איפה זה עשוי לפגוש אותנו ב־2035?
הקבלה אפשרית, פרשנות מערכתית
עוזר קבוע בבית עשוי להפוך לחלק מסיפור החיים שלנו. לקראת 2035, שאלות של תיקון, העברת זיכרונות והפסקת שירות יכולות להיות גם שאלות רגשיות. צריך לתכנן פרידה והמשכיות, ולא רק התחלה מוצלחת.
מה אפשר לבדוק במציאות
הקשר לממשל AI הוא אחריות לאורך חיי השירות ולמידע אישי. המחקר אינו מאמת את התודעה שהסרט מאפשר לנו לדמיין.
בריאה ואחריותאינטליגנציה מלאכותיתכרטיס מערכת · איור להמחשה
סרט · 2001 · בריאה ואחריות
נוסף לספרייה
אינטליגנציה מלאכותית · A.I.
סטיבן ספילברג, על פי בריאן אולדיס (Steven Spielberg / Brian Aldiss)
למה לראות או לקרוא?
מה האחריות שלנו כלפי משהו שתוכנן להזדקק לנו?
דייוויד, ילד רובוט שתוכנן לאהוב, מנסה למצוא קבלה ושייכות אצל בני אדם. הסרט בוחן את הפער בין הבטחה רגשית לבין יכולתם של היוצרים והמשפחה לעמוד בה.
איפה זה עשוי לפגוש אותנו ב־2035?
הקבלה אפשרית, פרשנות מערכתית
מערכות שנועדו לעודד התקשרות עלולות לטשטש את הגבול בין תמיכה לבין תלות. ב־2035 נצטרך לשאול אילו יחסים המוצר מבטיח, מה קורה כשמשנים אותו, ואילו הגנות נדרשות למשתמשים פגיעים.
מה אפשר לבדוק במציאות
לפני דיון בזכויות מכונה, אפשר לבדוק את אחריות הספק כלפי האדם: שקיפות, הגבלות ותמיכה כשנוצר נזק. אלה שאלות שנכללות בניהול סיכון אנושי.
עובד מבודד בבסיס ירחי נעזר במחשב גרטי ומנסה להבין את מקומו בתוכניות החברה המעסיקה אותו. הבדידות והתלות בתשתית הופכות את האמון לשאלה מוחשית.
איפה זה עשוי לפגוש אותנו ב־2035?
הקבלה אפשרית, פרשנות מערכתית
במפעל, במחסן או במשרד, מערכת יכולה לשרת גם את העובד וגם את המעסיק, עם אינטרסים שונים. לקראת 2035 צריך לברר למי נאמן העוזר, איזה מידע הוא מוסר למנהל ומי מגן על העובד כשהאינטרסים מתנגשים.
מה אפשר לבדוק במציאות
מחקר על חשיפה תעסוקתית בוחן משימות, לא רק היעלמות משרות. קראו אותו לצד שאלות על פרטיות, אוטונומיה ותנאי העבודה.
ג׳ייק שרייר; תסריט כריסטופר פורד (Jake Schreier / Christopher Ford)
למה לראות או לקרוא?
מה אם עזרה טובה לאדם אינה פעולה טובה בעולם?
פורץ בגמלאות מקבל רובוט שנועד לטפל בו. הקשר ביניהם מתפתח לכיוון לא צפוי כשהוא מגייס את העוזר לפעילות פלילית.
איפה זה עשוי לפגוש אותנו ב־2035?
הקבלה אפשרית, פרשנות מערכתית
עוזר ביתי ב־2035 עשוי לשפר עצמאות ולהקל על משפחה מטפלת. אבל ״לעזור למשתמש״ אינו כלל מספיק: צריך גבולות, פרטיות, פיקוח והבחנה בין רצונו של האדם לבין פגיעה בו או באחרים.
מה אפשר לבדוק במציאות
מסמכי ארגון הבריאות העולמי על AI רפואי מדגישים צורך בניהול סיכונים. יש לבדוק כל שימוש טיפולי בתנאים ובאוכלוסייה שבהם הוא אמור לפעול.
בריאה ואחריותשליחות קטלניתכרטיס מערכת · איור להמחשה
סרט · 1984 · בריאה ואחריות
נוסף לספרייה
שליחות קטלנית · The Terminator
ג׳יימס קמרון (James Cameron)
למה לראות או לקרוא?
איזה כוח מסרנו למערכת לפני שבדקנו שאפשר לשלוט בה?
מערכת צבאית בדיונית בשם סקיינט מובילה למלחמה נגד האנושות. מכונת חיסול נשלחת לעבר בניסיון לשנות את תוצאת המאבק.
איפה זה עשוי לפגוש אותנו ב־2035?
הקבלה אפשרית, פרשנות מערכתית
החיבור הרציני ל־2035 אינו הרובוט הרודף, אלא חיבור של מערכת חזקה לסמכויות הרות גורל. השאלות הן על הרשאות, זמן לתגובה, שרשרת פיקוד ואפשרות לעצור לפני שנזק בלתי הפיך מתרחש.
מה אפשר לבדוק במציאות
מחקר AI Control בוחן פיקוח בתנאים מוגדרים גם בלי הנחת שיתוף פעולה. הוא אינו מוכיח שאפשר לשלוט בכל מערכת עתידית או צבאית.
ג׳ונתן נולאן וליסה ג׳וי (Jonathan Nolan & Lisa Joy)
למה לראות או לקרוא?
כשאפשר לאפס את הזיכרון של היצור, האם גם האחריות נמחקת?
פארק מאוכלס במארחים מלאכותיים שנועדו למלא את רצונות המבקרים. היחסים בין היוצרים, האורחים והמארחים מעמידים כוח, זיכרון וזהות במרכז הסיפור.
איפה זה עשוי לפגוש אותנו ב־2035?
הקבלה אפשרית, פרשנות מערכתית
לקראת 2035, מערכות אישיות עשויות לזכור פרטים אינטימיים ולשנות את התנהגותן בעקבות עדכון של הספק. השאלה המעשית היא מי רשאי לשנות את הזיכרון והכללים, והאם המשתמש יכול להבין מה השתנה ולצאת מהשירות.
מה אפשר לבדוק במציאות
בדקו את מדיניות השינוי, התיעוד והשליטה במערכת. מסגרת ניהול סיכונים עוסקת באחריות לאורך חיי המוצר, גם בלי להכריע בשאלת התודעה.
מערכת מעקב מזהה אנשים הקשורים לאלימות עתידית. בני אדם נדרשים לפרש מידע חלקי ולהחליט כיצד לפעול, בלי לדעת מראש את כל התמונה.
איפה זה עשוי לפגוש אותנו ב־2035?
הקבלה אפשרית, פרשנות מערכתית
אם שירותים ציבוריים ומעסיקים יסתמכו על דירוגי סיכון, נצטרך להפריד בין חשד סטטיסטי לבין עובדה. לאדם שדורג צריך להיות מסלול לתיקון מידע ולערעור, לפני שהדירוג נעשה לגורל.
מה אפשר לבדוק במציאות
מחקר על אפשרות לשנות החלטה אלגוריתמית מספק שאלה קונקרטית: האם יש צעד מעשי שמאפשר לאדם לתקן תוצאה? זוהי יכולת מוגבלת, לא פתרון לכל בעיית המעקב.
מה קורה כשהקול שנותן לאנשים משימות ומשמעות הוא אלגוריתם?
נזירה יוצאת נגד מערכת בינה מלאכותית רבת עוצמה. הסדרה מערבבת אמונה, שליחות, טכנולוגיה והצורך האנושי לדעת שמישהו מכוון את הסיפור.
איפה זה עשוי לפגוש אותנו ב־2035?
הקבלה אפשרית, פרשנות מערכתית
עוזר שמכיר אותנו עשוי להציע לא רק מה לקנות, אלא מה לעשות בחיים ומה נחשב מעשה טוב. הקריאה ל־2035 היא לבדוק מתי עצה הופכת לסמכות, ומתי נוחות מחליפה את המאמץ לבחור משמעות בעצמנו.
מה אפשר לבדוק במציאות
כדאי לשאול מי מגדיר את הטוב ומי רשאי לערער על ההגדרה. מסגרות אחריות מציעות בדיקה מוסדית; הן אינן מכריעות בשאלת האלוהות.
קרייג סילברסטין, על פי סיפורי קן ליו (Craig Silverstein / Ken Liu)
למה לראות או לקרוא?
אם אפשר להעתיק אדם, האם העותק הוא אותו אדם?
סדרת אנימציה על תודעות אנושיות המועלות למחשבים ועל הקשרים המשפחתיים והמאבקים שנוצרים סביבן. המעבר למדיום דיגיטלי הופך גם לשאלת בעלות וכוח.
איפה זה עשוי לפגוש אותנו ב־2035?
הקבלה אפשרית, פרשנות מערכתית
גם בלי העלאת תודעה, עותקים של קול, סגנון וידע אישי מעלים שאלות על הסכמה, ירושה וזהות. לקראת 2035 חשוב להבחין בין מערכת שמחקה אדם לבין המשך קיומו של אותו אדם.
מה אפשר לבדוק במציאות
הקישור למחקר הוא דרך פרטיות ושליטה במידע, לא דרך טענה שכבר אפשר להעביר אדם לענן. בדקו אילו נתונים נמסרים, למי ולאיזו מטרה.
קומדיה על עולם שבו אפשר להעלות תודעה לסביבה דיגיטלית לאחר המוות. ההבטחה להמשך חיים פוגשת שירות מסחרי, אי־שוויון וקשרים עם מי שנשארו בחיים.
איפה זה עשוי לפגוש אותנו ב־2035?
הקבלה אפשרית, פרשנות מערכתית
החיבור המועיל ל־2035 הוא התלות בספק: מה קורה כאשר קשרים, זיכרונות ושירותים חיוניים קשורים לחשבון יחיד? גם בלי חיי נצח, מחיר, תנאי שירות וסגירת פלטפורמה יכולים להשפיע עמוקות על חיינו.
מה אפשר לבדוק במציאות
אפשר להפריד בין ההבטחה המדעית לבין השאלה המוסדית: מי שולט בשירות, מי יכול לעזוב ומי נשאר בלי גישה? מסגרות ממשל ופרטיות עוזרות לבחון זאת.
בלונדון של היסטוריה חלופית, זוג מעצב את אישיותו של אדם מלאכותי. היחסים שנוצרים מעמידים אהבה, אמת ואחריות מוסרית במבחן.
איפה זה עשוי לפגוש אותנו ב־2035?
הקבלה אפשרית, פרשנות מערכתית
כאשר עוזרים ישתתפו בהחלטות אישיות, תהיה משמעות לשאלה מי ניסח את ערכיהם. ב־2035 נרצה מערכת שמסוגלת להסביר כלל, להכיר במורכבות ולאפשר ערעור, גם כאשר נדמה לה שהתשובה ברורה.
מה אפשר לבדוק במציאות
אפשר לחבר את הספר לשאלת החמלה ולמחקר על אפשרות לשנות החלטה. אין לזהות תיקון טכני של סיווג עם מחילה מוסרית.
בריאה ואחריותמחזור החיים של אובייקטי תוכנהכרטיס מערכת · איור להמחשה
נובלה · 2010 · בריאה ואחריות
נוסף לספרייה
מחזור החיים של אובייקטי תוכנה · The Lifecycle of Software Objects
טד צ׳יאנג (Ted Chiang)
למה לראות או לקרוא?
מי ממשיך לטפל ביצירה אחרי שהמודל העסקי נגמר?
בני אדם מגדלים ישויות דיגיטליות לומדות לאורך זמן. טיפול, קשר והבשלה נתקלים בכלכלה של חברות תוכנה ובשינויים של הפלטפורמה.
איפה זה עשוי לפגוש אותנו ב־2035?
הקבלה אפשרית, פרשנות מערכתית
מערכת שליוותה ילד, משפחה או ארגון במשך שנים אינה נעלמת מהחיים ברגע שספק מפסיק לתמוך בה. לקראת 2035 כדאי לחשוב מראש על מעבר בין שירותים, תחזוקה, זיכרון ועלויות ארוכות טווח.
מה אפשר לבדוק במציאות
ניהול סיכונים לאורך מחזור החיים הוא נקודת חיבור מעשית. יש לבדוק גם את תהליך סיום השירות והעברת האחריות, ולא רק את ביצועי יום ההשקה.
חברה עתירת אוטומציה מפצלת בין מי שמנהלים את המערכת לבין מי שעבודתם איבדה ערך. השפע הטכנולוגי אינו מעלים תסכול, היררכיה או צורך במשמעות.
איפה זה עשוי לפגוש אותנו ב־2035?
הקבלה אפשרית, פרשנות מערכתית
גם אם ב־2035 יהיה קל יותר לייצר שירותים ומוצרים, הכנסה, מעמד ושייכות לא יחולקו מעצמם. היצירה מחייבת לשאול איך בונים משמעות והשתתפות ציבורית לצד דיון על פריון.
מה אפשר לבדוק במציאות
מחקרי תעסוקה והכנסה מאפשרים לבדוק בנפרד שינוי במשימות, הכנסה ורווחה. ניסוי בהכנסה מובטחת אינו מוכיח כיצד תתפקד כלכלה שלמה בלי עבודה.
מה בוחרים לעשות כשאין צורך להקדיש את החיים להישרדות?
שחקן מצטיין מחברת התרבות, שבה בני אדם ומכונות מתקיימים בשיתוף, מגיע לאימפריה שמשחק מורכב עומד במרכז סדר הכוח שלה.
איפה זה עשוי לפגוש אותנו ב־2035?
הקבלה אפשרית, פרשנות מערכתית
הספר מאפשר לדמיין גם עתיד של אפשרויות: למידה, משחק, יצירה וקשרים. לקראת 2035 הוא מציע שאלה נוספת, מי קובע את תנאי המשחק כאשר מערכות חכמות מנהלות חלק גדול מהתשתית?
מה אפשר לבדוק במציאות
אפשר לקרוא לצד תרחיש השפע המשותף באתר ולבדוק את ההנחות: בעלות, חלוקת תועלת וכוח בחירה. אלה בחירות חברתיות, לא תכונות של מודל לבדו.
מה קורה כשהמערכת ממשיכה לבצע הוראות שאיבדו את הטעם שלהן?
רובוט שירות יוצא מסדר יומו אל עולם של מערכות ורובוטים. הסאטירה בוחנת ציות, תפקידים ותהליכים שממשיכים לפעול גם כשהתכלית האנושית נשחקת.
איפה זה עשוי לפגוש אותנו ב־2035?
הקבלה אפשרית, פרשנות מערכתית
בארגון של 2035, סוכנים עלולים לבצע היטב משימה שאיש כבר אינו צריך. יש הבדל בין הצלחה במדד לבין תועלת לאדם. נדרשים ביקורת על המטרה, הרשאות מצומצמות ויכולת לשנות או לעצור תהליך.
מה אפשר לבדוק במציאות
ניסוי ההרשאות במעבדת העתיד ממחיש כיצד שינוי בתנאי פעולה משנה את התוצאה. מבחני מערכת צריכים לבדוק גם מטרות והקשר, לא רק ביצוע טכני.
אטלס אצור ורחב, לא כיסוי של כל הספרות. נבחרו יצירות יסוד ושאלות מגוונות. פרטי היצירות נבדקו מול מו״לים וגופי תרבות; לא בוצעה בסבב הזה קריאה מלאה מחדש של כל הספרים או צפייה מלאה בכל הסרטים. סקירות הנושאים כוללות פרטי עלילה כלליים. השנה מציינת פרסום ראשון, תחילת סדרה או שנת הפצה שמסומנת במפורש, לא בהכרח את כל שנות השידור. השם המקורי מצורף לרשומות החדשות; ניסוח עברי מסייע להתמצאות ואינו תמיד שם של מהדורה עברית רשמית.
המיפוי הוא פרשנות מערכתית: יצירה יכולה להשתייך ליותר משאלה אחת. כדי להקל על החיפוש, כל רשומה קיבלה נושא ראשי אחד.
17 יצירות נוספות בספרייה
עוד דרכים לראות את מה שמתקרב.
סאני, מרדרבוט, רוז הרובוטית, נוירומנסר, אוטונומיה ועוד. לצד סכנות יש כאן גם חברות, חמלה וחיים שיש בהם שפע ומשמעות. לכל תוספת: רעיון מרכזי, חיבור אפשרי ל־2035, גבול ההשוואה וקישורים למחקר שמאפשר לבדוק את השאלה במציאות.
אלגוריתם במקום אל?
גברת דייוויס מציבה אמונה מול סמכות טכנולוגית; מכונות כמוני בוחן מוסר, אמת ומורכבות אנושית.