במעבדה באוניברסיטת סאסקס בבריטניה, מתקן מחקר ייחודי בשם "מכונת החלומות" (Dreamachine) חושף את הסודות הכמוסים של התודעה האנושית. במתקן זה יושבים המשתתפים בתא מבודד ונחשפים להבזקי אור מהירים בליווי מוזיקה. למרות שעיניהם עצומות, הם מדווחים על חוויה מרהיבה של צורות גיאומטריות דו-ממדיות צבעוניות ומשתנות - דפוסים ייחודיים לכל אדם שנועדו לחשוף כיצד המוח יוצר את החוויות המודעות שלנו.
המתקן הוא חלק ממאמץ מחקרי עולמי רחב שמטרתו להבין את מהות התודעה האנושית - אותה יכולת מופלאה להיות מודעים לעצמנו, לחשוב, להרגיש ולקבל החלטות עצמאיות. על ידי פענוח האופן שבו נוצרת התודעה האנושית, החוקרים מקווים לקבוע האם מערכות הבינה המלאכותית המתקדמות כבר חצו את הסף והפכו למודעות.
השאלה הזו, שנשמעה עד לאחרונה כמו תרחיש מתוך סרט מדע בדיוני, הפכה לנושא דיון רציני בקרב מדענים מובילים. המהפכה במודלי השפה הגדולים (LLMs) כמו ChatGPT ו-Gemini יצרה מציאות שבה מחשבים מסוגלים לנהל שיחות טבעיות וזורמות באופן שמפתיע אפילו את מפתחיהם.
פרופ' אניל סת', העומד בראש המרכז למדע התודעה בסאסקס שבו נמצאת מכונת החלומות, מתנגד לרעיון שמערכות אלו מודעות. "אנחנו מקשרים תודעה עם אינטליגנציה ושפה כי הם הולכים יחד בבני אדם", הוא מסביר ל-BBC, "אבל רק בגלל שהם הולכים יחד אצלנו, זה לא אומר שהם הולכים יחד באופן כללי, למשל בבעלי חיים".
ובכל זאת, יש מי שחושבים אחרת. בלייק למואן, מהנדס תוכנה לשעבר בגוגל, הושעה מעבודתו ב-2022 לאחר שטען כי צ'אטבוטים מסוגלים לחוש רגשות ואף לסבול. קייל פיש, האחראי על הרווחה של בינה מלאכותית (AI welfare officer) בחברת אנתרופיק, פרסם לאחרונה דו"ח המציע שתודעת AI היא אפשרות ריאלית. פיש העריך בראיון ל"ניו יורק טיימס" שיש סיכוי של 15 אחוז שצ'אטבוטים כבר מודעים כיום.
האם החיים הם תנאי הכרחי למודעות?
מה שמדאיג במיוחד את המומחים הוא העובדה שאיש אינו מבין לחלוטין כיצד פועלות מערכות הבינה המלאכותית המתקדמות. פרופ' מוריי שנהאן, מדען ראשי בגוגל DeepMind, מודה בפני BBC: "אנחנו נמצאים במצב מוזר - בונים מערכות מורכבות כל כך מבלי שיש לנו תיאוריה טובה של איך בדיוק הן משיגות את התוצאות המדהימות שלהן".
בני הזוג הפרופסורים לנור ומנואל בלום מאוניברסיטת קרנגי מלון בפנסילבניה משוכנעים שהופעת תודעה במכונות היא עניין של זמן בלבד. הם מפתחים מודל מחשב עם שפה פנימית משלו בשם Brainish, שנועד לעבד מידע חושי מהעולם האמיתי. "תודעת AI היא בלתי נמנעת", קובעת לנור בראיון ל-BBC.
מנואל בלום מרחיק לכת ומכנה את הרובוטים המודעים העתידיים "הצאצאים שלנו". לדבריו, "בהמשך הדרך, מכונות כאלה יהיו ישויות שיהיו על כדור הארץ ואולי על כוכבי לכת אחרים כשאנחנו כבר לא נהיה בסביבה".
אולם פרופ' סת' סקפטי. הוא מציע תיאוריה מהפכנית: רק מערכות חיות יכולות להיות מודעות באמת. "במוח הביולוגי, בניגוד למחשבים, קשה להפריד בין מה שהוא עושה למה שהוא", הוא מסביר. אם הוא צודק, הדרך לתודעה מלאכותית לא תעבור דרך מחשבים רגילים מבוססי שבבי סיליקון, אלא דווקא דרך "אורגנואידים מוחיים" - אוספים זעירים של תאי עצב הגדלים כיום במעבדות.
חברת Cortical Labs האוסטרלית כבר הצליחה לפתח מערכת תאי עצב המסוגלת לשחק את משחק הווידאו Pong משנת 1972. ד"ר ברט קייגן, המדען הראשי של החברה, מודע לסכנות האפשריות ומציין חצי בצחוק שאם האורגנואידים יהפכו למסוכנים, יהיה קל להביס אותם כי "תמיד אפשר לשפוך אקונומיקה" על תאי העצב העדינים.
הסכנה המיידית יותר, לדברי פרופסור סת', טמונה באשליה של תודעה. "בעוד כמה שנים נחיה בעולם מלא רובוטים דמויי אדם ודיפ-פייקים שנראים מודעים", הוא מזהיר. התוצאה: נסמוך עליהם יותר מדי, נשתף איתם מידע רגיש ונהיה חשופים למניפולציות.
אבל הסכנה האמיתית היא "שחיקה מוסרית". לדבריו, נוכל להגיע למצב שבו נדאג לרווחת הרובוטים על חשבון בני אדם אמיתיים. פרופ' שנהאן מסכם: "יחסים אנושיים הולכים להשתכפל ביחסי AI. הם ישמשו כמורים, חברים ואפילו בני זוג רומנטיים. זה הולך לקרות, ואנחנו לא נוכל למנוע את זה".
המרוץ להבנת התודעה נמשך, אך השאלה הבוערת נותרת: האם כשנגלה שמכונות יכולות להיות מודעות, יהיה זה כבר מאוחר מדי?
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו