מה הופך תשובה להבנה? למי שייכים הערכים של מערכת? ומה קורה למשמעות, לאמונה ולאחריות כשהמכונה יודעת לענות כמעט על הכול?
החדר הסיני מציב שאלה פשוטה: האם ביצוע נכון של הוראות מספיק להבנה? תשובת סרל מעוררת התנגדויות, ובהן הטענה שצריך לבחון את המערכת כולה. הוויכוח עוזר להבחין בין מה שרואים בשיחה לבין הטענה על מה שמתרחש בתוכה. אין צורך לבחור מיד צד כדי לשאול מה ייחשב ראיה טובה.
הוראה לבצע משימה, הרצון שמאחוריה והאינטרס ארוך הטווח שלנו אינם תמיד אותו דבר. השאלה למי להתאים את המכונה נעשית קשה יותר בחברה שאינה מסכימה על הטוב. גבריאל מציע לעסוק בהוגנות של עקרונות ושל תהליך הבחירה. זו נקודת מפגש בין בטיחות טכנית לדמוקרטיה ולצדק.
המסה באתר מציעה לבחון את ה־AI דרך הצורך האנושי בהכרה, הכוונה ומשמעות. זו פרשנות פילוסופית: מערכת שמקשיבה, מייעצת וזוכרת יכולה למלא חלק מהתפקידים שיוחסו בעבר לסמכות דתית. מכאן לא נובע שהדתות ייעלמו. מסורת, טקס, קהילה וקשר אינם מסתכמים בקבלת תשובה. מחקר הדת ומסמכים תיאולוגיים מציעים נקודות מבט נוספות לבחינה.
יש הבדל בין היכולת לסבול, היכולת לפעול באופן עצמאי והזכות לקבל החלטות עבור אחרים. הדיון ברווחת AI מציע להיערך לאי־ודאות לגבי מערכות עתידיות. אפשר לקחת את השאלה ברצינות ובה בעת לדרוש שהכוח על בני אדם יישאר מוגבל, מוצדק ונתון לביקורת.
בחרו מצב כדי לראות אילו שאלות משתנות. זו מפת שאלות פרשנית, לא סולם של תודעה ולא תיאור של גורל הכרחי.
איכות הביצוע נבחנת ביחס למשימה. תשובה נכונה אחת אינה מעידה על הבנה כללית.
ככל שהעצה נוגעת לזהות ולבחירות חיים, חשוב לברר מי עיצב אותה ומה קורה כשחולקים עליה.
כאן נדרשת הצדקה למוסד ולכוח שהעניקו למערכת. יכולת גבוהה כשלעצמה אינה הצדקה לשלטון.
הניסוחים הבאים מציגים את שאלות הדיון. הם אינם ציטוטים ואינם קובעים שכל העמדות נתמכות באותה מידה.
אמודי מתאר עתיד של תועלת רחבה אם ההתמודדות עם הסיכונים מצליחה.
במסת ההמשך הוא שואל אם החברה בשלה לכוח שהיא מפתחת. כדאי לבחון אילו הנחות מאפשרות לעבור מחזון לתוצאה.
אפשר לדרוש ראיות חזקות לפני שמייחסים חוויה סובייקטיבית למכונה.
אפשר גם להיערך לאפשרות של מעמד מוסרי תחת אי־ודאות. הדיון עוסק ברף הראיות ובמחיר הטעות לשני הכיוונים.
סקירה אקדמית שמארגנת שאלות על פרטיות, אוטונומיה, החלטות אוטומטיות, תעסוקה ובינה עליונה. מתאימה לבניית שפה משותפת לפני שמגבשים עמדה.
הקדמה, תוכן העניינים ומועד העדכון המהותי של הערך.
הסקירה מציגה מחלוקות. אין בה פתרון מוסרי מוסכם לכל שימוש ב־AI.
ניסוי המחשבה של ג׳ון סרל שואל אם מניפולציה של סמלים מספיקה להבנה. הערך מציג את הטיעון ואת התשובות המרכזיות של מתנגדיו.
הקדמה, תיאור הניסוי, תגובות מרכזיות ותאריך עדכון הערך.
טיעון פילוסופי שנוי במחלוקת. אינו ניסוי שמוכיח שמודלים אינם מסוגלים להבין.
צ׳למרס בוחן טיעונים בעד ונגד תודעה במודלי שפה, ומבחין בין המערכות שנדונו במאמר לבין מערכות עתידיות עם מבנה אחר.
תקציר ופרטי גרסה 3; מקורו בהרצאה מ־2022 ובפרסום ראשון ב־2023.
אין בדיקה ישירה של חוויה סובייקטיבית. תחזיות המאמר אינן אבחון של מודלי 2026.
גבריאל מבחין בין הוראות, כוונות, העדפות ואינטרסים. הוא מציע להתמקד בעקרונות הוגנים שאנשים בעלי אמונות שונות יכולים לקבל.
תקציר, תאריך הגרסה והצלבה עם רישום המאמר בכתב העת.
הצעה נורמטיבית, לא אלגוריתם שמכריע מחלוקות ערכיות או מוכיח ייצוג הוגן בפועל.
מאמר המחבר בין עקרונות של צדק חלוקתי לבין מערכות חברתיות וטכנולוגיות, בהשראת הפילוסופיה של ג׳ון רולס.
תקציר המחבר ורישום המאמר.
מסגרת לבחינת מוסדות וחלוקת משאבים. אינה תחזית כמותית של אי־שוויון.
המחברים מציעים להתייחס ברצינות לאפשרות שמערכות עתידיות יהיו בעלות מעמד מוסרי, ולפתח מחקר ונהלים שמתמודדים עם אי־הוודאות.
תקציר, רשימת מחברים והמלצות הפתיחה.
המאמר אינו קובע שמערכות קיימות מודעות או סובלות. מעמד מוסרי אפשרי אינו סמכות לשלוט בבני אדם.
מסה על האפשרויות ש־AI חזק עשוי לפתוח בבריאות, במדע, בכלכלה ובחיי האדם, בהנחה שמצליחים להתמודד עם הסיכונים.
פתיחת המסה ומסגרת החזון המוצהרת באתר המחבר.
חזון מותנה של מנהל חברת AI בעלת אינטרס מסחרי. אינו תחזית מוסכמת או תועלת שכבר התממשה.
מסה הממשיכה את החזון האופטימי בשאלה כיצד מוסדות, חברות ובני אדם יתמודדו עם הכוח והסיכונים של AI מתקדם.
פתיחת המסה, מסגרת הטיעון והקשר למסתו הקודמת.
טיעונים ותרחישים של המחבר. שתי מסות מאותו מחבר אינן שתי ראיות בלתי תלויות.
צוות חוקרים מציע מאפיינים לבדיקה הנגזרים מתיאוריות של תודעה. המאמר מבהיר מדוע תשובה רהוטה אינה לבדה הכרעה בשאלה.
תקציר, שמות המחברים וגרסה 3 של עמוד הפרסום.
מסגרת מוצעת על בסיס תיאוריות שנויות במחלוקת. מסקנות על מערכות של 2023 אינן בדיקה של כל מודל עתידי.
שיחה על תודעה מלאכותית, אי־הוודאות בבדיקתה וההשלכות המוסריות של האפשרות שמערכת מסוגלת לחוות.
נבדקו תקציר המפרסם, תאריך ורשימת פרקי התמלול. לא בוצעה האזנה מלאה. נגן ותמלול באנגלית בעמוד המקור.
תיאוריות ועמדות מ־2023. אין בדיקה מוסכמת שמכריעה תודעה באמצעות שיחה משכנעת בלבד.
מקור יסוד לדיון באחריות, תיקון ושינוי התנהגות. המסה מחברת אותו לשאלה כיצד מערכת בעלת כוח יכולה להכיר בשינוי.
פרקים ב, ג וז בהלכות תשובה נקראו באתר מכון ממרא. התאריך הוא מועד הבדיקה, לא חיבור הטקסט.
טקסט הלכתי, לא מחקר AI. החיבור לתכנון מערכות הוא פרשנות מקורית במסה, ואינו פסיקה הלכתית.
מחקר Anthropic מ־2026 בוחן בקשות להכוונה אישית ואת נטיית המודל להסכים ולחזק עמדות של משתמשים.
מאמר המחקר באתר החברה, לרבות שיטה ומגבלות
נתוני Claude וסיווג אוטומטי אינם מדגם של הציבור כולו. לא נבדק מה המשתמשים עשו בעקבות השיחה.
בת׳ סינגלר חוקרת כיצד שפה על אלגוריתמים יכולה לקבל מאפיינים דתיים.
תקציר מחקר ורשימת פרסומי החוקרת
דפוסי שיח אינם הוכחה שכל משתמש מאמין באלגוריתם כאל.
מסמך הוותיקן מבחין בין בינה אנושית למלאכותית ומעמיד את כבוד האדם במרכז הדיון.
המסמך הרשמי
עמדה תיאולוגית קתולית, אינה מייצגת את כל הדתות או הוכחה מדעית.
ניק בוסטרום מציע הבחנה בין אינטליגנציה אינסטרומנטלית לבין המטרות שסוכן מקדם.
מאמר המקור, חלקי הטיעון על אורתוגונליות
זהו טיעון פילוסופי על אפשרויות, לא הוכחה שכל AI יתנהג בדרך אחת.
ספר על השתנות תפיסות האל במסורות היהודית, הנוצרית והמוסלמית. נקודת מוצא לדיאלוג הפילוסופי באתר.
קטע הפתיחה המורשה נבדק בשלב התכנון, לא הספר המלא
התזה על AI כאל מעשה ידי אדם היא תזה מקורית באתר; אין לייחס אותה למחברת.
קורס מבוא אקדמי המציג את הספרות המקראית ואת מגוון שיטות המחקר והקריאה שלה.
עמוד הקורס ותמלול הרצאת המבוא
דיון היסטורי אינו פסק דין בשאלת האמונה. אין קול מקראי אחיד לכל שאלה.
בחרו שאלה אחת, קראו שני מקורות שמציעים זוויות שונות, ונסחו מה ידוע ומה עדיין פתוח. כך אפשר להתחיל דיון בבית, בעבודה או בקבוצת לימוד.