שלום כולם, וברוכים הבאים ל"אלישע והזוויות". היום ה-15 ליולי 2025, יט תמוז תשפ"ה, ואנחנו בעונה השניה פרק 13!
בטח שמתם לב שלקח לי זמן להוציא את הפרק הזה, אבל יש לי תירוץ טוב. האמת, יש לי שלל תירוצים: המלחמה עם איראן, הילדים שיצאו לחופש, הדבר הזה שקוראים לו "עבודה" שפה ושם מתחנן לקצת תשומת לב… אבל האמת היא שיש סיבה אחת שמרחפת מעל הכל, והיא שהפרק הזה היה קשה לכתיבה. טיוטות רבות עברו עליו עד שהוא התכנס ליצירת המופת שלפניכם, ואני יכול רק לקוות שתהנו מהתוצר.
אחת הסיבות שהפרק הזה היה מאתגר לכתיבה היתה שבהמון נקודות ראיתי כיצד אני גולש מתחומי המדע והאינטואיציה אל תוך מחוזות הפילוסופיה, והגלישה הזו היתה מדרון חלקלק. לכן, הפרק מעוצב באופן שרק יצעד על גדות הצוק אבל ימנע מליפול לתהום הפילוסופיה. לאורך הפרק אני רק אתן קריאת כיוון לכמה מהמקומות שהפילוסופיה ממתינה בסבלנות למי שרוצה להרחיב, ואשאיר את ההשלמות של העניין לכם, המאזינים. מה שכן, מי שירצה לכתוב לי את מחשבותיו באחד מן הצינורות המקובלים - מייל, אתר, ערוץ טלגרם - אני כמובן שמח לנהל את השיחה הזו, אז לא להתבייש…
ו-זהו עם ההקדמות! בואו ניגש לפרק עצמו.
בפרקים האחרונים דיברנו על פונקציית המטרה, וראינו שהמחשבים זקוקים לכך שבני האדם יספקו להם את פונקציית המטרה הזו, וגם ינטרו ויגבילו את התנהגויות ה-AI בדרך להשגת המטרה. בכל מקום שבני האדם מסירים את מבטם, יש סיכוי שה-AI ינוע באופן עיוור לכיוונים שנוגדים את כוונות בני האדם. אפילו שבני האדם הגדירו את פונקציות המטרה, הן תמיד רק ניסוח חלקי של המטרות האנושיות, ובנוסף בני אדם עסוקים כל הזמן בגילוי ועדכון המטרות שלהם. כיוון שכך, המכונות זקוקות כל הזמן לאינפוזיה מתחדשת של מטרות כדי להשאר רלוונטיות, וככל שהכח שנתון בידם גדול יותר, כך התלות שלהם במשוב הזה מבני האדם גדלה.
איפה ראינו משהו כזה בעבר? נכון, ראינו את זה בפרקים 6 ו-7, שם התמקדנו בדאטה שהמכונות זקוקות לה. ראינו שם שאימון של מערכות AI חייב להיעשות על בסיס דאטה אנושי דווקא, ושאי אפשר לשים את רוב כובד המשקל של האימון על דאטה סינתטי שנוצר על ידי מכונה אחרת. וכשמחברים את שני הפרמטרים הללו יחד אנו מקבלים את התובנה הראשונה של הפרק: שמסיבה כלשהי, השורה התחתונה היא שהמכונה לא מסוגלת לעשות את מחזור החשיבה המלא שבני אדם עושים, לפחות לא בפרדיגמות השולטות כיום. היא יכולה לפעול באופן מרשים מאד בתוך מסגרות של מטרות ודאטה שהוגדרו לה מראש, אבל את המסגרות עצמן היא לא מסוגלת לייצר. ובהתחשב בכך שבני אדם עושים זאת באופן טבעי לגמרי, שווה לשאול - מדוע? מה בדיוק חסר למכונה שיש לנו, ומה בדיוק היא מקבלת מאיתנו?
גם כאן, חלקים מהתשובה נרמזו לאורך העונה. בתור התחלה, בפרקים 6 ו-7 הרחבנו על כך שיש אינסוף דרכים להסתכל על העולם ולדבר עליו, ורק חלק קטן מהם מעניין את בני האדם. כשהבינה המלאכותית משתמשת בשפה האנושית, היא בעצם מסתמכת באופן כבד מאד על האופן הספיציפי שבו בני אדם ממשיגים את העולם, כפי שראינו בפרק החמישי. ובפרקים האחרונים ראינו שהאבחנה הזו תקפה גם לגביי פונקציית המטרה: יש אינסוף פונקציות מטרה שניתן להגדיר ולאמץ - אבל רק חלק קטן מהם משקף מטרות שבני האדם יזדהו איתן. אי אפשר לדעת באופן רציונלי טהור איזה פלח הוא הפלח המעניין, ולכן המכונה חייבת שנספק לה את השפה, התמונות, התיוגים והמטרות שלנו.
מאותה הסיבה, גם לאחר שסיפקנו לה את כל המידע הזה, יש לה עדיין רק שבריר מהתמונה השלמה, גרסה מפוקסלת של מציאות רציפה. גם אם נאכיל אותה את האינטרנט כולו, לא יהיה בכך יותר מייצוג חלקי בלבד של התפיסה האנושית את המציאות, ולכן באופן עקרוני התלות של המכונה בבני אדם בשר-ודם לנצח לא תסתיים. פעמים רבות חוקרים מתמכרים לרעיון שמספיק שנחפש מתחת לפנס, בדאטה שכבר אספנו, וכל פעם מחדש מתברר שהידע שאספנו הוא חלקי בלבד.
נניח, הנה דוגמה יפה ששמעתי לפני הרבה שנים במהלך הדוקטורט שלי. בארצות הברית של אמריקה החליטה חברת מזון מסויימת להוציא מוצר חדש - פאי קלאסי, אבל קטן, פאי אישי במקום הגודל המשפחתי הרגיל. כשהם שאלו את עצמם כמה לייצר מכל סוג - פאי אוכמניות, פאי תפוחים וכן הלאה - היה להם ברור שלפאי התפוחים יהיה הביקוש הגבוה ביותר. כל הסטטיסטיקות הראו שזהו הפאי הפופולרי במדינה, עד כדי כך שיש אפילו ביטוי שכזה, As american as apple pie . אלא שלמרבה ההפתעה, כשהשיקו את המוצר החדש הם ראו נפילה במכירות של פאי תפוחים. לאחר מחקר נוסף הם גילו את הסיבה - מסתבר שפאי התפוחים מעולם לא היה הפאי האהוב על רוב האנשים - הוא פשוט הפאי שרוב האנשים לא שונאים. ולכן, הפאי המשפחתי תמיד התכנס לפאי תפוחים, הפאי שאמא לילדים יכולה לקנות בידיעה שאף אחד לא יתלונן. אבל ברגע שהיתה לאנשים אפשרות לקנות משהו אישי, הם הלכו לכיוונים אחרים. אתם מבינים - כל הדאטה המצטבר מן העבר לא הצליח לעלות על הנקודה הזו, ורק המשוב הישיר מבני האדם חשף אותה.
את כל המלל ששפכתי פה אפשר בעצם לתמצת ולומר פשוט כך: בני האדם הם הלקוחות של המכונות, והלקוח תמיד צודק. ואמנם המוכר יכול לנחש מה הלקוח ירצה מחר, אבל זה לעולם לא יצא מכלל ניחוש. הרי הלקוח עצמו לא עקבי במה הוא רוצה ולא תמיד יודע מה הוא רוצה, אז מה לנו שנלין על המכונות?
אלא שאם באמת זה היה עיקר ההבדל, זה נשמע קצת שרירותי. מה מיוחד בבני אדם, שהם זוכים לקבוע את המיסגור של המחשבים? למה שלא ניתן למשהו אחר להיות הלקוח, לקבוע את הדאטה המעניין ואת המטרות הרלוונטיות. אולי ניתן לאיזה רובוט נחמד לעשות זאת?
השאלה הזו מובילה אותנו לעוד הבדל שורשי בין בינה מלאכותית כיום לבין בני אדם, ושהזכרנו בקצרה בפרק התשיעי: כדי לבחור מטרות לא מספיק כח חישובי, צריכים תודעה. כלומר, את בני האדם יכולים להחליף גם ישויות אחרות, כמו חייזרים, כלבים ודולפינים. אפילו מחשבים עתידיים יוכלו לעשות זאת אם תהיה להם תודעה. אבל עד אז - האפשרות הזו איננה חלק מארגז הכלים של המכונות.
העובדה שאי אפשר להגדיר מטרות ללא שימוש בתודעה זה דבר ברור מאליו, מעצם ההגדרה של מה זו "מטרה". כך לדוגמה במילון ספיר המקוון ההגדרה היא "דבר שרוצים להשׂיגו", באתר מילוג ההגדרה היא "תוצאה רצויה", ובויקיפדיה הלכו על "משהו שרוצים בהשגתו". בשלושת ההגדרות מופיע הפועל "רצה" - רצון, ורק ישויות בעלות תודעה יכולות לרצות דברים. ולמי שחושב שאני פשוט עושה כאן התקטננות לשונית, הוא מוזמן לנסות את כוחו בהגדרה של המילה "מטרה" ללא הישענות, באופן ישיר או עקיף, על קיומו של רצון. אני מזכיר לכם את התהום הפילוסופית שלפתחנו, כן?
לא רק המטרות שלנו, אלא גם הדאטה שאנו מספקים לְמערכות הבינה המלאכותית צבוע בצבעי התודעה שלנו. השפה שלנו, בתור התחלה, מעוצבת על ידי התודעה שלנו, ומותאמת דווקא לחוויה האנושית. מילים כמו "אהבה" ו"שנאה" משקפים תחושות שלא קיימות ללא תודעה. מילים כמו "שולחן" נשמעות בתחילה כאילו הן מתארות מציאות אובייקטיבית, אבל בני אדם מחליטים איפה משהו מפסיק להיות שולחן ומתחיל להיות "כסא" או, לחילופין, "אוהל". על גבי השפה הזו נבנים גם כל התיוגים שאנו עושים לדאטה שאנו מספקים למחשבים - לתמונות, לסרטונים וכן הלאה. ובנוסף, התמונות והסרטונים הללו עצמם מצולמים ומוסרטים על ידינו, עם דגשים אנושיים - איפה הפוקוס של המצלמה בסצינה בסרט, מה המרחק שהיא תופסת ואפילו דברים כמו טווח גלי האור שהמצלמה מסוגלת לקלוט - הכל ספוג ומודרך על ידי הדברים שמעניינים בני אדם, האופן שבו בני האדם מתממשקים איתם וכן הלאה - כלומר שמושפעים מהתודעה שלהם, שלנו.
ושלא תחשבו שהרצונות הללו והבחירות הללו הן סתם קפריזה אנושית. יש להן עוגן הישרדותי חזק שעוצב לאורך ההיסטוריה הארוכה של המין האנושי, ובכך הם גם משקפים אמיתות מסויימות על המציאות. דברים ברוח זו אומר ד"ר ג'ורדן פיטרסון בקטע הבא, עוד מימיו כפרופסור לפסיכולוגיה באוניברסיטה בקנדה, לגביי חוקר בשם בינסוואגר:
"מה שאנו תופסים הם, בראש ובראשונה, לא רשמים של טעם, צליל, ריח או מגע. אפילו לא דברים או חפצים, אלא משמעויות, מה המשמעות של הדבר עבורכם... הדרך שרובכם חושבים על האופן שבו אתם מעבדים מפגש עם חפצים בעולם, הולכת ככה: שיש חפצים בעולם, אתם רואים את החפצים, אתם חושבים על החפצים, אתם מעריכים את החפצים, אתם מחליטים כיצד לפעול ביחס לחפצים, ואז אתם פועלים. נכון?... אבל זה שגוי! זה לא עובד ככה...
מה שבינדסוונגר טוען הוא שמה שאתם רואים בעולם הן משמעויות, וקודם מתרחש זיהוי המשמעות ורק אז מגיע זיהוי החפץ... בני אדם חייבים לתפוס משמעויות קודם כי אנחנו רוצים לשרוד, להישאר בחיים… העולם מלא בדברים האלה שיש להם משמעות שרלוונטיות להישרדות שלכם. ומה שאתם תופסים קודם הוא הרלוונטיות של הדפוס החיצוני להישרדות הזו..."
זו הסיבה העמוקה יותר, אם כן, שהמכונה לא יכולה להיות מקור הדאטה ופונקציות המטרה. המכונה לא רוצה דבר, אפילו לא לשרוד, ולכן כל פונקציות המטרה שקולות בפניה וכל ייצוגי המציאות טובות בעיניה באותה מידה. גם לאחר שהיא קיבלה אל קרבה פונקציות מטרה כאלו ואחרות, היא עדיין לא רוצה אותן, אלא פשוט מבצעת את מה שמוגדר אצלה בתוכנה. בסוף אנחנו תמיד חוזרים לכך שרק יצורים בעלי תודעה יכולים לחלץ את המכונה מן האפאתיות הזו, להגדיר מה טוב ומה רע, מה המאפיינים במציאות שראויים לתשומת לב, ולאיזה כיוון כדאי לנוע.
ההשפעות של התודעה על הדיון שלנו הן רחבות מאד. התודעה פותחת בפני האדם סוגי חשיבה שחסומים לגמרי עבור מערכות חסרות תודעה, כמו המחשבים של היום, ואזכיר כאן רק עוד אחת. כיוון שאין להם תודעה, ההתנהגות של מכונות ורובוטים בהווה נקבעת באופן דטרמיניסטי על ידי העבר, בדיוק כמו העתיד של דוממים אחרים כמו אבנים פשוטות. לעומת זאת, יצורים בעלי תודעה מסוגלים לפעול מכח העתיד - מתוך שאיפה להגיע לעתיד מדומיין שלא בא לעולם עדיין וקיים רק במחשבותיהם. רק כך נולדים להם סיפורים מעוררי-השראה על אנשים שהצליחו כנגד כל הסיכויים, שלא נתנו לעבר שלהם להכתיב להם את עתידם. "אם תרצו, אין זו אגדה" אמר הרצל, והניע תהליכים ליצירת מדינה שלא היתה קיימת 2000 שנה עבור עם חסר-מדינה שהיה מפוזר בגלות. כיוון שאבנים ורובוטים פועלים רק מכח העבר וההווה, הם חייבים שאנחנו נספק להם פונקציות מטרה, ייצוג מתמטי בהווה שיכול לגרום למחשב להתנהג כאילו הוא מכוון אל עבר עתיד כלשהו.
הדברים שאמרתי כאן רומזים, כפי שאולי שמתם לב, לרעיון שלבני אדם יש רצון חופשי, free will, מנגנון שמאפשר להם להשתחרר מהדטרמינזם שהטבע הרגיל - והמחשבים - כבולים בו. האם אתם מאמינים שיש לבני אדם רצון חופשי שכזה, או שלדעתכם גם בני אדם שבויים של העבר והכל קבוע מראש? עם כל זה שהפיתוי הוא גדול לפתוח סוגרים ארוכים ולדבר על הנושא, אני התחייבתי להתאפק, ומילה זו מילה.
זרמנו עד הנקודה הזו עם ההנחה שמחשבים אינם בעלי תודעה. אבל האם הם יכולים להיות כאלו?
אולי. אולי לא. קשה מאד לדעת כיוון שאנחנו בקושי מבינים מה זו תודעה ואיך היא מתהווה במוח שלנו. נכון, אנחנו יודעים לזהות במוח שלנו את האזורים שמופעלים בזמן שאנחנו בתודעה מוגברת - לאזור הזה קוראים קליפת המוח, cerebral cortex באנגלית - אבל האם כל תודעה חייבת להתממש באופן הזה? אין לנו באמת מושג. אני מניח שלכם יש תודעה ואתם מניחים שלי יש כזו, בעיקר בגלל שאנחנו דומים זה לזה, אבל אולי גם למיקרופון שאני מדבר אליו עכשיו יש תודעה ואני פשוט לא יודע לזהות זאת? איך ניתן בכלל לדעת?
לכן, הפרק הזה מכוון למשהו צנוע יותר: שנסכים, לפחות, שזה הרף שצריך לחצות אותו כדי שמחשב יוכל לחשוב כמו בני אדם. לא מספיק לנו מבחן טיורינג, אלא אנחנו חייבים שתהיה לו תודעה. לא מספיק לנו לבחון את ההתנהגות החיצונית של המערכת אחרי שבנינו אותה, כפי שטיורינג רצה, אלא אנחנו חייבים להציב גם דרישות למנגנון הפנימי שלה. יש דברים, כמובן, שהיא מסוגלת לעשות גם ללא תודעה - גם מחשבון כיס יכול לחשב חישובים שבני אדם לא מסוגלים - אבל תודעה היא מצרך קריטי כדי לחשוב כמו בני אדם.
בנוסף אני חושב שלאור מה שראינו בפרק הזה, אפשר לטעון באופן די משכנע שכולנו צריכים לקוות שלמחשבים לא תהיה תודעה. גם אם זה המפתח לאינטלגנציה אמיתית, כזו שיכולה להביא את האנושות לאוטופיה - הרי שברגע שלמחשבים תהיה תודעה יהיו להם גם רצונות, וכשליצור כלשהו יש רצונות, יש סיכויים גבוהים להתנגשות רצונות ביננו לבינם… להביא על עצמנו את מלחמת העולמות הזו נראה לי… לא רצוי. אני רוצה לקוות שבעניין הזה כולנו מסכימים.
עד כה ניתן לומר שהצגתי את הטיעון שהמחשבים לא יכולים לעשות את מחזור החשיבה המלא שבני אדם עושים. אבל אולי, כך אתם יכולים להציע, הם עושים את החלקים המעניינים יותר? אולי החלק המאתגר יותר, זה שראוי לשם אינטלגנציה, הוא החלק שהם עושים, ואנחנו רק מספקים להם את נקודות המוצא?
אבל לאור הדברים שאמרנו כאן היום ולאורך העונה, נראה לי שתיאור טוב יותר של המציאות הוא קצת שונה. למחשבים יש שתי יכולות חזקות כיום: קודם כל הם יכולים להיחשף ולעכל את האינטרנט כולו, לייצוג מסויים של כל הידע האנושי הפומבי עד כה, וזה הרבה מעבר למה שאדם בודד יכול אי פעם להשיג. בנוסף, הם ממש טובים בלצבוע בתוך הקווים: לקחת חומרים קיימים, ולשלב אותם יחד על פי בקשת המשתמש. בא לכם לקבל תיאור של מוצר התוכנה החדש שלכם בסגנון של סונטה שייקספירית? אין בעיה, המכונה תשלב את הדברים באופן אלגנטי. אבל כל התהליך הזה עדיין מתוחם וכבול בכבלי הפרספקטיבה האנושית הקיימת שדיברנו עליה לעיל. הדבר שהמכונה איננה מסוגלת לעשות הוא להיות יצירתית באמת. לְמה אני מתכוון ביצירתיות? להציע פרספקטיבה חדשה על אותן העובדות, פריזמה חדשה להטיל עליהן ולפרש את העובדות דרכה, באופן שיש לו גם ערך. ברגע שאמרנו את המילה "ערך", חזרנו שוב לעניין המיסגור האנושי שמגיע מהתודעה. רק יישות בעל תודעה תוכל לסגור את המעגל הנדרש הזה - להתכוונן למשהו שיש לו ערך גם ללא שיש לערך הזה נוסחה ברורה.
אכן, מחקרים רבים שיצאו בשנים האחרונות הראו שהמכונות בעיקר עושות שימוש מתוחכם בידע הקיים שלהם במקום לייצר ידע חדש. יש לכך הרבה דוגמאות (הנה אחת, והנה עוד אחת ועוד אחת שנוגעים בנושא באופן יותר עקיף), ובשל המגבלה המהותית הזו של ה-AI, אנשים כמו יאן לה-קון - אחד מן האבות המייסדים של הבינה המלאכותית כיום - מגיעים למסקנה שבינה מלאכותית אמיתית לא תצא מתוך הפרדיגמות המובילות כיום לבינה מלאכותית. בפודקאסט לפני כחודשיים הוא אמר כך:
ובגרסה המלאה של הראיון:
"אנחנו לא הולכים להגיע לבינה מלאכותית ברמה אנושית רק על ידי הגדלת מודלי שפה. זה פשוט לא הולך לקרות... אין שום דרך בכלל. ולא משנה מה אתם שומעים מכמה מהעמיתים הנועזים יותר שלי, זה לא הולך לקרות בשנתיים הקרובות. אין שום דרך בעולם... הרעיון שיהיה לנו "גאון ממוחשב" במרכז נתונים זה שטויות מוחלטות. אין שום דרך.
מה שאולי יהיה לנו זה מערכות שיאומנו על כמויות נתונים גדולות מספיק כך שכל שאלה שאדם סביר עלול לשאול תמצא תשובה דרך המערכות האלה, וזה ירגיש כאילו יש לכם דוקטור יושב לידכם, אבל זה לא דוקטור שיושב לידכם. זו מערכת עם זיכרון עצום ויכולת אחזור, לא מערכת שיכולה להמציא פתרונות לבעיות חדשות, וזה באמת מה שדוקטור עושה."
רואים כאן בדיוק את מה שאמרנו: ה-AI מנגיש לנו את האינטרנט באופן מאד מרשים, את הדאטה הקיים, אבל הוא אינו עושה מה שבן אדם עושה: לייצר משהו חדש שלא ראינו קודם. להציע סכימה חדשה שדרכה יש לפרש את המציאות. זוהי יכולת שיש לבני אדם, ומה שאני הצעתי בפרק הזה הוא שהתבלין הסודי שיש לבני האדם הוא - שיש לנו תודעה.
על הרעיון שדיברנו עליו היום אפשר להרחיב רבות. היה מעניין לעשות פרק שלם רק על הרעיון של יצרתיות, לדוגמה - מהי ואיך יודעים לזהות אותה. חוץ מזה, אני חושב שאפשר להקביל בין היכולות של בני אדם ומחשבים לבין הרעיונות הקבליים ביהדות של ספירות ה"חכמה" לעומת ה"בינה", ולמי שמכיר את הנושא אני בטוח שרק זה שהצפתי את הרעיון כבר עשה עבורו קליק במוח. אבל הזמן קצר והמלאכה מרובה, אז אנחנו נסיים את המהלך של היום בחזרה לשורשים שלנו, עם דוגמה נוספת של המרכזיות של התודעה בדיון על אינטלגנציה.
קשה להפריד בין השניים, בין אינטלגנציה לתודעה. קחו לדוגמה את ההגדרה הפשוטה למראה לאינטלגנציה - "היכולת לפתור בעיות". ניתוח קל יוכיח שהתיאור הזה מורכב מהגדרות "תודעתיות". דבר נחשב "בעיה" רק אם בני אנוש מחליטים שהוא לא רצוי, ודבר נחשב "פתרון" רק אם בני אנוש מחליטים שבעקבותיו ה"בעיה" נעלמת ללא ששילמנו מחיר גבוה מדי. כאב בשרירי הרגל הוא לפעמים בעיה ולפעמים לא, וגם כשהוא בעיה, כריתת הרגל היא לפעמים פתרון ולפעמים לא. במילים אחרות, כשמישהו בא ומגדיר אינטלגנציה כ"יכולת לפתור בעיות", ההגדרה הזו יכולה להתפרש אך ורק מתוך עמדה של תודעה. אני לא מתכחש לכך שניתן לפתור בעיות בעזרת מחשבים, כמובן - כל אחד מאיתנו יודע למה אנחנו מתכוונים באמירה כזו - אבל ללא העוגנים של התודעה האנושית אין בעיות ואין פתרונות. בפאראפראזה על החידה העתיקה הידועה, אם המחשב כורת עץ ביער ואף בן אדם לא ראה שעשה זאת, הרי שאין כל משמעות לְמה שהוא עשה
ועכשיו, אני מציע שניקח צעד אחורה ונשים לב לדברים שעולים כשמסתכלים על הדיון שלנו מזווית אחרת: מה זה אומר שאנחנו מתקשים כל כך להגדיר אינטלגנציה באופן ברור וחד, ומה ההשלכות של העובדה הזו?
ובכן, יש פילוסופים של המדע שסבורים שעצם הקושי ההגדרתי הוא סימן לכך שאנחנו בשלב מוקדם מדי של חקר האינטלגנציה מכדי להיות מסוגלים בכלל לענות על השאלה "האם למחשבים יש אינטלגנציה". כך לדוגמה אפשר להביא את הפילוסוף נד בלוק, שאמר בראיון לפודקאסט לאחרונה כך:
מראיין: לפי התיאוריה שאומרת שכדי לדעת אם משהו הוא אינטלגנטי לא מספיק להסתכל על ההתנהגות (כמו שטיורינג הציע), אלא צריך לראות שיש במערכת הזו עיבוד נתונים - האם ישנם קריטריונים מוגדרים היטב ומספקים למה נחשב עיבוד נתונים?
בלוק: לא, והסיבה שאני לא הגעתי למשהו כזה ושאף אחד לא הגיע היא שאנחנו באמת לא יודעים מה זו חשיבה... אנחנו צריכים תיאוריה על מהי חשיבה במונחים חישוביים, ואין לנו תיאוריה כזו.
מראיין: זה בעצם מה שמבחן טיורינג היה אמור לפתור... האם יש מבחן חלופי, אם כן?
בלוק: אני חושב שכל הרעיון של לחפש מבחן הוא טעות... בהיסטוריה של המדע, כלי מדידה מתפתחים יד-ביד עם תיאוריה על מהות הדבר שמודדים. הדוגמה הכי טובה לזה היא גילוי מושגי הטמפרטורה והחום... שני הדברים האלה מודדים דברים שונים, והחוקרים לא יכלו לייצר מדחום עד שהם הבדילו בין טמפרטורה וחום. אני חושב שאנחנו באותו מצב לגבי השכל. אנחנו רוצים מכשיר מדידה כדי למדוד מחשבה והיגיון, אבל אנחנו לא יודעים אם יש לנו את הקטגוריות הנכונות, אנחנו צריכים תיאוריה על מה הן…
יתכן, אם כן, שההתעקשות של התודעה לחדור להגדרות שלנו חושפת בפנינו שמוקדם מדי לנסות לענות באופן חד וברור על השאלה שבאנו לענות עליה. אולי אין לנו ברירה אלא להמתין בסבלנות עוד כמה שנים או עשורים או מאות שנים עד שנוכל, בצניעות יתירה, לענות סוף סוף על השאלה הגדולה הזו: האם מחשבים חושבים?
אז, מה קורה בהמשך העונה?
עד כה, נגענו בהרבה נקודות מרכזיות בנושא התבונה והמחשבים. לא מיצינו את כל שיש לומר, כמובן, אבל יש כל כך הרבה דברים לדבר עליהם בעולם… בסוף צריך להחליט החלטות קשות, וזה אומר גם לעבור הלאה מנושאים מעניינים שכאלו.
בפרקים שנותרו בעונה, אני רוצה לסגור כמה פינות, ולהתמקד בעיקר בהשלכות הפרקטיות של הדברים שאמרנו כאן. ספיציפית, בפרק הבא אני ארצה שנסקור לאור מה שלמדנו כאן איך אנשים אחרים מדברים על AI, ולמה כל כך חשוב להטיל ספק בטענות של "תבוניות המכונות". כמו כן, אנחנו נרצה לשאול - מה צופן לנו העתיד שבו יש AI בכל מקום? מכונה שיכולה לחקות בפרקטיקה חשיבה אנושית, אך איננה חושבת בעצמה - איך היא תשפיע על החברה האנושית, לטוב ולרע? אני מאמין שדווקא מתוך ההבנה המעמיקה יותר שקיבלנו כאן בעונה הזו נוכל לענות על השאלות הגדולות הללו בצורה יותר מושכלת ומאוזנת.
וזהו לבינתיים! להתראות, ביי…
Share this post