שלום כולם, וברוכים הבאים לאלישע והזוויות, עונה 2 פרק 19. היום ה-1 למרץ 2026, יב’ באדר תשפ”ו. מלחמת איראן 2 (מבצע “שאגת ארי”) בדיוק החלה בשבת, אז אני מקווה שכולכם בקו הבריאות, שומרים על עצמכם ועל המשפחה. ובשעות שנבלה כנראה בממ”ד חשבתי לעזור קצת, עם עוד פרק של “אלישע והזוויות”, כזה שיוכל להסיח את הדעת קצת מהעניינים המורכבים של היום-יום הישראלי.
היום אנחנו עושים פרק השלמות ביחס לפרק הקודם, שכן אפילו שהוא היה ארוך - מסתבר שעדיין יש זוויות שלא נגענו בהם. אז היום אנחנו ניגע בשני דברים עיקריים: עדכון ביחס לפודקאסט “מפלגת המחשבות”, שאליו התייחסתי בפרק הקודם, וגם פרספקטיבה נוספת, בהשראת תומאס סואל, על מערכת היחסים שבין האדם לבין ה-AI בעולם שמתהווה לנגד עיננו. חוץ מזה, סוף סוף יש לי בהירות על ההתכנסות לסיום העונה - זה הפרק ה-19, אחריו יהיו הפרק ה-20 שיעסוק ב-AI ויצירתיות, ואז הפרק ה-21 יהיה הפרק האחרון באמת, ושם נדבר על moltbook. מי שיודע על מה אני מדבר יודע, ומי שלא - ידע בקרוב!
רגע לפני שנצלול לפרק - העדכון הרגיל: יש מייל לפודקאסט (elishas.angles@gmail.com) ויש גם ערוץ טלגרם (https://t.me/ElishasAngles) - מוזמנים להצטרף לשתף עם אחרים :)
מפלגת המחשבות, וההיפנוזה הטורדנית של ה-AGI
בפרק הקודם, פרק 18, הבאתי ציטוט מהדברים של מיכה גודמן ואפרת שפירא-רוזנברג, בפרק 149 של הפודאקסט הידוע שלהם, “מפלגת המחשבות”, פרק שכותרתו “מהפכת הבינה - קו המשווה”. באותו ציטוט הם הציעו שהכניסה של AI למערכת תייצר שיוויון בין אנשים שיש ביניהם הבדלים מולדים. כך לדוגמה הם הציעו שבהינתן AI, אין משמעות להבדלים ב-IQ, כיוון שאם לשני אנשים יש גישה ל-AI עם IQ גבוה מכל בן אנוש, אז אפקטיבית יש להם את אותו ה-IQ. על הדברים הללו העברתי ביקורת וטענתי שבדיוק הפוך הוא הנכון: כלי ה-AI רק יגדילו את הפערים בין בני אדם, כיוון שהאדם עדיין בכיסא הנהג, ואנשים עם יותר IQ, ידע, נסיון ועומק יוכלו למנף את ה-AI באופן משמעותי יותר. למי שמעוניין לשמוע את הדברים עצמם על כל הזוויות שלהם, פרק 18 מחכה לכם בנחת, בכל עת שתרצו.
אלא שמסתבר שבין היום שבו הקלטתי את הפרק ה-18 ליום שהוצאתי אותו, ב”מפלגת המחשבות” הקליטו פרק נוסף, פרק 151, שכותרתו “האמנם קו המשווה? פרק מיוחד”. ברגע שראיתי את הכותרת הבנתי שני דברים. קודם כל, הבנתי שטעיתי - חשבתי שהעונה שלהם הסתיימה, בגלל הערה שמישהו זרק באיזה פוסט ב-X, לא בדקתי את העניין בעצמי ומסתבר שהעונה שלהם עדיין בעיצומה. אז אני קודם כל רוצה להתנצל על הטעות הזו - לרוב אני בודק כל דבר לפני שאני משתף, וזו פשלה שלי. הדבר השני שהבנתי הוא שאצטרך להאזין לפרק 151, ובהתאם לעדכונים שהם יעשו בעמדתם, גם לעדכן את הדברים שלי. בכל זאת, יש כאן הגינות בסיסית, ואם ביקרתי אנשים על עמדתם והם שינו אותה, זה רק ראוי שאתקן את ההערות שלי בהתאם.
אז מה הוביל לפרק 151? כפי שהם מספרים, כמה אנשים שמבינים בתחום העירו להם שהתיזה שלהם היא פשטנית מדי, ולכן הם באו להרחיב אותה. בפרק החדש הזה הם אימצו בצורה נרחבת יותר את העמדה ההפוכה, זו שגם אני קידמתי, לפיה ההשפעה של היכולת האישית על מקומו של הפרט בחברה רק תגדל כשמכניסים AI לתהליך. הם הדגישו שה-AI אמנם יביא ליישור קו בבסיס הידע של כולנו, ירים את כולנו לבסיס חדש, אבל כשיוצאים מהאזור המשותף הזה הוא דווקא יעצים את הפערים בין האנשים. הדברים נדונים שם באריכות, אז אני רק אביא ציטוט אחד לדוגמה:
“מיכה גודמן: באמת הניסוח שאמרנו בפרק 149 שזה - הפערי אינטליגנציה נשמרים אבל היתרון שזה מייצר מתבטל - הפוך! הפוך! עכשיו אנחנו בעולם שבו מי שיש לו יתרון ביצירתיות, היתרון שזה מעניק לו מועצם פי כמה. ומכאן יוצא שהמסקנה היא גם כן הפוכה - זה לא מחולל השוויון הגדול, זה מכונן ההיררכיה הגדול ביותר.”
אלו הדברים, וזה סגנונם. לאורך רוב הפרק בסה”כ הנהנתי בהסכמה. אני מודה שקצת הסתייגתי מהשפה והמונחים שבהם הם משתמשים, אבל בהינתן שהם לא אנשים טכניים אנחנו נמחל על כבודנו הטהרני ונשים את זה בצד. בגדול, שמחתי שלאחר מחשבה שניה הם שינו כיוון. ולא רק זה. בהמשך הדברים שלו, מיכה גודמן גם מסביר איך קרה אצלו הבלבול - “היינו תחת ההיפנוזה של ה-AGI”, הוא אומר בקטע שאני אשמיע כאן עוד רגע. והרי זה בדיוק מה שאני ניחשתי (או הצעתי) בפרק הקודם - אתם יכולים לחזור ולבדוק שאמרתי שם שכנראה אשליית התבונה של ה-AI היא מה שהוביל לעמדה שהוצגה בפרק 149.
הייתי שמח, אם כן, לסיים את העדכון שלי בקביעה שהכל בא על מקומו בשלום, ואני ו”מפלגת המחשבות” מסונכרנים. אלא שלצערי, נראה לי שהם לא באמת קלטו את המנגנונים שהובילו אותם למסקנה המוטעית שלהם. בואו תאזינו לדברים:
מיכה גודמן: אבל כאן אני חושב שאנחנו צריכים להסתייג או להטיל מגבלות על מה שאנחנו אומרים כאן. כי כל זה נכון עד ה-AGI. כשיופיע AGI…
אפרת שפירא רוזנברג: אם, אם יופיע AGI - אבל כנראה שהוא יופיע…
מיכה גודמן: כן, מאוד יכול להיות שה-AGI הוא כן אקוולייזר (=משווה). אגב, זה מקור כל הבלבול שלנו בפרק הקודם - קצת תחת ההיפנוזה של ה-AGI. אבל ה-AGI, מאוד יכול להיות שהוא כן אקוולייזר…
מה אני אגיד לכם - אוף. כאילו, באמת, קצת תסכל אותי. ולא בגלל שאין אנשים חכמים שבאים מתוך התחום ושחושבים כמותם - בהחלט יש כאלו. פשוט אני לא מצליח להבין איך הם חושבים שהדברים ייראו בעולם של AGI כפי שהם מדמיינים אותו, ובייחוד איך זה מתורגם לחוסר השפעה של היכולת האישית על השימוש באותו AGI. כפי שאמרתי בפרק הקודם - גם באותה המציאות שיהיה AGI, אני ואתם נרצה דברים שונים, נציף רעיונות שונים ונכוון את הבוט האישי שלנו למקומות שונים. אדם שאינו יודע שיש מקום כזה כמו פריז לא יוכל לבקש מן הבוט שלו לארגן שם חופשה. האינטלגנציה האישית שלנו, כמו גם נסיון החיים והידע, יובילו ממילא לתוצאות שונות, עם יתרון לאנשים המעמיקים והחדים יותר.
בגלל החור הזה בנרטיב שלהם, אני בעיקר שומע כאן את מה שידוע בתור “חשיבה כישופית”, magical thinking, ייחוס של תכונות קסמיות לטכנולוגיה בלי להסביר את המנגנונים עצמם. כאילו אנחנו יכולים פשוט לנופף ב”באז-וורד” שקוראים לו AGI ולצפות שזה יסביר הכל. אז כן, קצת חבל לשמוע אותם מבינים שהם היו “תחת ההיפנוזה של ה-AGI”, ואז לגלות שהם בעצם עדיין תחת ההשפעה שלו. תוסיפו לזה את הקביעה האגבית של שפירא-רוזנברג ש”כנראה שה-AGI יופיע”, שאפילו לשיטתם אני לא מבין מאיפה הביטחון שזה יקרה…
עכשיו, חשוב להיות הוגנים. מה שהבאתי כאן הוא רק ציטוטון קצר מהפרק כולו. הם כן מנסים להבהיר בהמשך הפרק מה יהפוך AGI לשונה, וזה לשיטתם היכולת לשאול שאלות יצירתיות על המציאות. נושא היצירתיות הוא באמת נושא קריטי וגדול - נדבר על זה בפרק הבא - ואני מבין למה הם ממסגרים את ה-AGI העתידי בכך שהוא יהיה בעל יכולות שכאלו. ועדיין, אין בכך ביטול של הצורך בניווט אנושי, וחזרנו לנקודת ההתחלה.
ובכל אופן, אני רוצה להמליץ לכם להאזין לפרק 151 כולו, ואולי אף לעונה השלמה שלהם. אני מאמין שריבוי זוויות זו הדרך להשגת האמת, וזה נכון גם כאן. תאזינו להם, ותאתגרו אותם מהמקום של הפרקים שלנו, של “אלישע והזוויות”, ובו זמנית גם אתגרו אותי מהמקום של הדברים שלהם. האם הביקורת שלי במקום, או שמא אולי אני מפספס משהו? ואם כן, בבקשה תכתבו לי. אני רק אשמח לשתף כאן כיוונים חדשים שיעלו כסינתזה מתוך הפרקים שלי ושלהם.
בשולי הדברים, אשתף מחשבה גולמית שיש לי לגביי ההבדל בין הגישה שלי לגישה שלהם בפודקאסטים השונים שלנו. הרי גם אני וגם הם מנסים לגשת דברים מזוויות שונות ומשלימות, נכון? ועדיין, יש הבדלי סגנון, ואחד שנראה לי רלוונטי כאן הוא שהם מרגישים הרבה יותר בנוח בעולם הרעיונות המופשטים, ולכן כל פרק לוקח זווית ורץ איתה עד הסוף, עד הקצה של הפוטנציאל הטמון בה. אצלי, לעומת זאת, מתרחש פינג פונג בין הדעות והזוויות, מתוך רצון לבנות סיפור מאורגן ושלם, כזה שבו הזוויות השונות מאזנות זו את זו ומתכנסות לאיזו תחזית ריאלית. זו התחושה שלי לגביי ההבדלים, לאחר שהאזנתי למספר פרקים מן העונה הנוכחית (אם כי לא כולם). אני כמובן נוגע בדבר, אז אשמח מאד לשמוע מכם, המאזינים, אם יהיו לכם תובנות נוספות, כמו גם ביקורת על הניתוח הזה שלי.
השפעת הבינה המלאכותית - בהשראת תומאס סואל
בכך סגרנו את החוב הראשון מהפרק הקודם. החוב השני הוא לשתף איתכם מודל חשיבתי מעניין - לפחות שנראה לי מעניין - שיעזור להבין את מערכת היחסים שבין האדם ל-AI בעולם החדש שמתהווה לנגד עיננו, ואיך זה מתקשר לתהליכים ההיסטוריים שקדמו לו. הדברים הללו גם יהוו עוד רובד של הבנה לגביי הטיעון מהפרק הקודם, הטיעון שאמר שמצד אחד ה-AI יעצים את כל מי שישתמש בו, ומצד שני אנחנו עדיין חייבים לבנות את עצמנו ואת החברה שלנו בלי קשר ל-AI, להמשיך לחקור לבד, ללמוד דברים ולזכור אותם. וכפי שכבר אמרתי בטיזר מתחילת הפרק - הדברים הללו יקבלו משנה תוקף וחיזוקים חשובים אם נכניס כאן לשיחה את תומאס סואל.
את סואל הכלכלן פגשנו כבר בעונה הראשונה של הפודקאסט, והוא אחד האינטלקטואלים המרשימים ביותר בדורנו שיצא לי לקרוא חלק קטן מכתביו. ספרו Knowledge and Decisions, “ידע והחלטות”, עוסק בניתוח של שאלה מופשטת מאד: מהו ידע, ומהם בדיוק תהליכי קבלת החלטות, ואיך המנגונים שאנו מאמצים לניהול העולם שלנו משפיעים באופן דרמטי על החברה שנבנית סביבנו. הספר הזה ארוך ובכנות גם מתיש, אבל כמות התובנות שבו היא אדירה, ושווה את המאמץ של הקריאה הסיזיפית בו.
בתחילת הספר שואל סואל שאלה מעניינת, וקצת מוזרה במבט ראשון: במה שונה הידע שיש לאדם המודרני לעומת זה של האדם הקדמון? לרוב אנחנו נוטים לחשוב שהאדם הקדמון היה בור בעוד אנחנו יודעים המון - תחשבו על הידיעות שלנו על היקום שסביבנו, חוקי הטבע וכן הלאה. אבל סואל מעיר שהאדם הקדמון גם כן ידע המון דברים שלאדם המודרני אין לגביהם מושג ירוק. כדי לשרוד בשטח הפראי של העולם הקדמון הוא היה צריך לדעת המון לגביי החיות והצמחים שסביבו, איזה מים הוא יכול לשתות ומאיזה מעיין הוא יקבל קלקול קיבה אם ישתה. הוא היה צריך לזהות תבניות של עונות השנה ומזג האוויר, לדעת איך לצוד חיות טורפות ועוד ועוד. באותה מידה שהאדם הקדמון לא היה שורד הרבה זמן בעיר כמו ניו-יורק, כך גם האדם המודרני היה כנראה מת די מהר בעולם הקדמון והזר לו. לכל אחד היה הרבה ידע, פשוט ידע אחר שהתאים לצרכים שלו.
ועדיין - כך אומר סואל - יש הבדל חשוב בין שני בני האנוש הללו. ואלו הם דבריו:
“מה, אם כן, היתרון האינטלקטואלי שיש לציוויליזציה על פני פרימיטיביות פראית? מדובר לאו דווקא בכך שלאדם המתורבת יש יותר ידע, אלא שהוא נזקק להרבה פחות. האדם הפרימיטיבי חייב לייצר מגוון רחב של מוצרים ושירותים עבור עצמו, וקהילה פרימיטיבית חייבת כל הזמן לשכפל את הידע והנסיון של כל פרט אצל שאר הפרטים. בניגוד לכך, רואה החשבון או החשמלאי המודרני צריך לדעת מעט מאד מעבר למומחיות שלו בחשבונאות או אלקטרוניקה. אוכל מגיע לסופרמרקט השכונתי שלו בזכות תהליכים שהוא בגדול בור לגביהם. הבית שהוא גר בו נבנה בתהליך מסועף, בעל דקויות טכניות, כלכליות ופוליטיות שבהם הוא מעולם לא הרהר. הבית שלו כנראה מלא במכשירים שפועלים על בסיס עקרונות מכניים וחשמליים שאת התיאוריה שמאחוריהם הוא אינו מבין ושגם לו נדרש לא היה מסוגל למנף או לתפעל… האדם הפרימיטיבי לא היה מסוגל לשרוד אילו ידע כה מעט ביחס להפקה ושימוש בחניתות, בניית צריפי דשא. הדברים אמורים גם לגביי נאיביות ביחס לאילו סוגי פירות יער הם רעילים, אילו נחשים הם מסוכנים, או האופן שבו ניתן לחיות באותו הג’ונגל שבו חיים אריות, נמרים וגורילות.
ציוויליזציה (ממשיך סואל) הינה מנגנון אדיר-ממדים לניהול חסכוני של ידע. הזמן והמאמץ הנדרשים להשגת ידע מצטמצמים דרך התמקצעות, אמירה שמשמעותה צימצום משמעותי של כמות השכפול של הידע בקרב בני אותה חברה.”
הרעיון שסואל מציג כאן אולי מזכיר לחלקכם אמירה לגביי קפיטליזם, שזו גישה כלכלית שמעודדת התמקצעות, אבל האמת היא שהדברים שלו רלוונטים לכל חברה, וקפיטליזם זו רק דוגמה למערכת שעושה את התהליך המדובר בצורה יעילה יחסית. כל חברה שרוצה לשרוד חייבת לנצל באופן מיטבי את הידע שחבריה צברו. שיתוף ידע גולמי בין בני אדם הינו תהליך ארוך שצורך הרבה משאבים, ולכן ככל שאנו יכולים למנף את הידע ללא שיתוף מלא שלו, כלומר שניהול הידע הוא חסכוני יותר ואנו מצמצמים את הצורך בשיתוף שלו - כך החברה תוכל לגדול ולהתפתח יותר. נניח, אם יש צבא עירני על הגבולות, שאר האזרחים יכולים לחיות ברוגע יחסי ובהתעלמות מהסכנות שמעבר לגבול. מספיקה להם ידיעה מאד כללית - הצבא מגן עלינו - ובכך נחסך מהם הצורך להכיר את הסכנות עצמן ברזולוציה גבוהה. כך היחיד פנוי לעסוק בעיסוקיו, ויכול לשרוד ואפילו לפרוח ללא שהוא מודע לרוב הידע שזמין לקולקטיב כולו, וללא הבנה של המורכבות האמיתית של העולם שבו הוא חי. דוגמה נוספת היא WAZE. כשאתם נוסעים ומשתמשים ב-WAZE, אתם נהנים מהידע שהמערכת אוספת מהמון אנשים, בלי שאתם בעצם יודעים את הידע הזה. אין לכם מושג איפה יש פקקים - המערכת יודעת את זה, והיא עוזרת לכם בכך שהיא מתרגמת את כל הסיטואציה המורכבת בשטח למשהו קצר וקולע - הוראות נהיגה, כאלו שיביאו אתכם ליעד במהירות. זהו ניהול יעיל וחסכוני ביותר של הידע המצטבר.
ועכשיו, כשהמודל ברור, בואו נבחן את מהפכת ה-AI מתוך נקודת המבט הזו. תחשבו על GPT וחבריו לא כעל תבונה, אלא כמערכת לריכוז, הנגשה ומינוף של הידע האנושי, צעד אנושי נוסף במסלול שסואל תיאר. עד שהגיעו ה-LLM-ים היינו צריכים להתאמץ קשות כדי למצוא ולהשתמש במידע פומבי. אפילו ביחס לגוגל, מה שאפשר לעשות היום עם GPT או GEMINI הוא די מדהים. במקום שאנחנו ננבור בהמון אתרי אינטרנט - ה-AI מחפש במאות אתרים שכאלו עבורנו, ומביא לנו תוך כמה דקות דו”ח מפורט, מנומק ומבוסס שעונה בהרחבה לשאלה ששאלנו. זה נכון גם לגביי דברים טריוויאלים, כמו לבקש ממנו לכתוב לנו שיר יומולדת לילדה: הבקשה הזו לא רק מוצאת אלא גם ממנפת את הידע האנושי הזמין על איך בונים שיר, מה זו חריזה וכן הלאה. LLM-ים מנגישים לנו ידע שהיה בעולם גם קודם לכן, ידע שדורות על גבי דורות של אנשים אספו וחידדו ושרק עכשיו נהיה זמין ושמיש לכל אחד, בכל מקום.
האפקט הזה רחב מאד כמובן. רכבים אוטונומיים מאפשרים לכולנו להגיע ממקום למקום אפילו בלי שנלמד את חוקי התנועה או איך רכב עובד. רובוטים ביתיים, שמתחילים להפציע באופק, יוכלו לנהל עבורנו את כל מטלות בבית, כך שיהיה לנו בית נקי בלי שאי פעם נלמד לשאוב אבק, לשטוף כלים או לבשל מרק. וככל שהטרנד הזה מתקדם, הפרט מסוגל לשרוד בעולם מורכב יותר עם פחות ופחות הבנה לגביי אותו עולם, שכן בזכות הטכנולוגיה החדשה הוא יכול להישען על הידע המצטבר של החברה כולה. באופן קיצוני אפשר לומר שכיום, מספיק שבן אדם בודד יחשוב על רעיון, וברגע שהוא יפרסם אותו כל העולם יוכל ליהנות מהרעיון הזה - אפילו אם הממציא עצמו ישכח אותו! ה-AI ינגיש אותו לכולם. בפרק הקודם הזכרנו את היתרונות והחסרונות שאפלטון ראה בהמצאת הכתיבה - שימור ידע בו בזמן שבני אדם יכולים להפסיק לדעת אותו. בעידן הבינה המלאכותית, אנחנו מביאים את התבנית הזו לסדרי גודל באמת חסרי תקדים.
בין התמקצעות לניוון
המודל של סואל, אם כן, עוזר לנו להבין מדוע הדברים תמיד שלובים יחד - התפתחות טכנולוגית חברתית וניוון יכולות אצל היחיד. המינוף הכלל-חברתי של הידע מצמצם את הלחצים הטבעיים שמכריחים אותנו להיות מסוגלים לעמוד לבדנו, כל אחד ואחת, ולשרוד עצמאית בעולם. ואפילו שהמילה “ניוון” נשמעת רע, הרי שצמצום הלחץ הזה גם מאפשר לאנשים דברים שבעבר לא היו אפשריים: לפקס את המאמצים שלהם במקומות שמעבר להשרדות בסיסית, להתמקצע באזורים שבעבר לא היתה פניות להתמקצע בהם. ואם באמת האדם מתמקצע ומתוך הההתמקצעות החברה כולה מתעשרת, כי הוא מגלה דברים חדשים שללא ההתמקצעות לא היה מסוגל לגלות - אם אגם הידע האנושי מתמלא עוד ועוד - אז הרי שהתהליך הזה הינו מוצלח ומבורך. או לפחות אפשר להבין ראייה שכזו.
מתוך התפיסה הסימביוטית הזו, אנחנו מבינים גם שיש כנראה נקודות איזון בריאות ליחסי הכוחות שבין הלחצים שיש על היחיד וה”פטור” שהוא מקבל ממאמץ בזכות הטכנולוגיה. הבעיות הגדולות מתחילות לצוץ ביום שהפרט מגיע למסקנה שבעצם עדיף שלא יתאמץ בכלל, שאין לו ערך או מה לתרום לידע של החברה כולה. דמיינו שמישהו היה משכנע את איינשטיין שאין טעם להשקיע בחקר הפיזיקה, כי הכל כבר מטופל ואין מה לחדש שם. איינשטיין אולי היה מחליט לצאת לטיולים ברחבי העולם, נהנה מחייו ונפטר בשיבה טובה; אבל האנושות כולה היתה מאבדת נכס אדיר והפיתוח שלה היה מתעכב בשנים רבות, מה שהיה מוביל להחלשת הקולקטיב כולו, על כל הפרטים שבו.
עכשיו, בואו נחשוב: מה יכול לגרום לתפיסה שכזו? מה יכול היה לגרום לאיזה איינשטיין קטן לוותר מראש על המאמץ להבין את היקום?
כאן מסתתרת לה אחת הסכנות שבתיוג הבינה המלאכותית כתבונה. שכן, אם ה-AI תבוני מצד עצמו, או אפילו מספיק שאנשים ישתכנעו שהוא כזה, ושיש לו “IQ 180” כפי שתיארו במפלגת המחשבות, הרי שאנשים יסיקו באופן טבעי שאין כבר צורך בהמשך תחזוק המוח האנושי והתרומה שלו. הרי ה-AI הוא כמה סדרי גודל של תבונה מעבר למה שהאדם, ואפילו האנושות, מסוגלת להיות. כמות הבוטים יכולה מהר מאד להיות גדולה יותר מכמות בני האדם, ואז נראה שהאינטלגנציה האנושית היא טיפה בים האינטלגנציה על פני כדור הארץ, ואין בה כבר הרבה צורך. “בנינו מנוע שמתחזק את עצמו”, אנחנו נאמר לעצמנו, “כזה שייצר לנו ידע ותובנות חדשות בקצבים בלתי נתפסים וללא אדם שמכוון אותו, כזה שבכל יום ישפוך תובנות מדהימות לתוך מאגר הידע המשותף והמונגש, ומכאן ולהבא אין לנו כל צורך לדעת דבר כי הוא יטפל בנו עד סוף כל הדורות. האוטופיה כאן, קץ ההיסטוריה!”
האם התופעה החברתית הזו מתרחשת? אני אישית פוגש פוסטים שכאלו ברשתות החברתיות כל הזמן. אנשים שאומרים “אוי ואבוי, ה-AI השתלט לנו על עוד חלקה. הוא יכול לכתוב טקסטים יותר טוב ממני אז אין טעם שאני אתאמץ לכתוב. הוא יכול לכתוב קוד טוב יותר ממני אז אין לי באמת מה לתרום בתחום התוכנה”. אווירה שכזו בהחלט יש מסביב, אם כי קשה לי לדעת כמה מזה זה רק שחרור קיטור וכמה משקף שינויים תפיסתיים עמוקים יותר, כאלו עם תחושה של חוסר אונים עמוק.
המקבילה של הדברים הללו בראש הפירמידה העסקית אלו כל המנהיגים הטכנולוגיים שמספרים לנו שבעתיד ה-AI יטפל בנו אז אין באמת צורך שנתאמץ הרבה. כך אנו מוצאים את אילון מאסק מדבר על חיים בעולם חדש ולא מוכר, שבו לטענתו אין טעם לחסוך לפנסיה, כי הכל יטופל עבורנו על ידי הרובוטים. העלות של כל הדברים בעולם תהיה אפסית, יהיה לנו שפע מעבר לכל מה שאנו מכירים, ולכן אין טעם לחסוך, או כשהוא אומר בהקשר אחר שעבודה בעוד עשור או שניים תהיה עניין של בחירה, כמו תחביב כזה, כסף יהפוך להיות חסר משמעות, והעוני יעלם מן העולם.
הכל טוב ויפה - אם כך יהיה. אם נגיע לאוטופיה, כזו שדומה לרעיונות של שרייבר. אם באמת יש כאן תבונה עצמאית על-אנושית. אבל אם כל מה שה-AI היה וגם אי פעם יהיה זו מכונה שמנגישה וממנפת הידע האנושי קיים ושמאפשרת לכולם ליהנות מאותו הידע, אבל לא מנוע עצמאי של יצירתיות ומחקר - אז כל מה שמאסק אומר כאן לא יקרה, לא יכול לקרות, ואנחנו חייבים להמשיך ולתעדף ייצור ידע אנושי עצמאי ומקורי; אולי כזה שנעזר ב-AI, אבל מבין שהאדם הוא מרכיב קריטי בהמשך מילוי מאגר הידע המשותף. כזה שמבין שברגע שהאדם יצא מהתמונה, שם יתחיל תהליך ההתאבנות של הידע הזמין לאנושות, ללא שיש לו תחליף או התחדשות.
אני רוצה גם להוסיף כאן זווית נוספת לאותו רעיון, זווית הפוכה במידת מה. אם ה-AI שיש לנו כיום הינו רק כלי להנגשת ומינוף ידע קיים, אולי זה אומר שעדיין לא פיצחנו באמת את סוד התבונה, ואין לנו באמת AI בידינו. או אז, יש לראות בתיאור הדברים שבפרק הזה קריאה לחוקרי הבינה המלאכותית לסרב להתפשר, לקרוא לילד בשמו ולהצהיר שעם כל ההערכה למודלי השפה והמערכות שנבנו סביבן, אנחנו נמשיך לחפש את המתכון הסודי ליצירת AI אמיתי, כזה שבאמת יוכל להפוך להיות מנוע יצירתי עצמאי. דברים בסגנון הזה כתב לאחרונה החוקר פרנסואה שולה בפוסט ב-X:
“בכך שאימנו את מודלי השפה שלנו על משימות מסויימות, הצלחנו בפועל לכסות איזור מאד גדול של משימות שבני אדם יודעים כבר לעשות. אבל האיזור הגדול הזה הינו רק 0-נקודה-0-0-0…0-1 אחוזים משטח המשימות האפשרי. וכיוון שכך, אנחנו עדיין זקוקים לאינטלגנציה כללית”
מהדברים הללו עולה שכפי שאמרנו בפרק הקודם, עד שנמצא את הדרך לאינטלגנציה מלאכותית כללית אמיתית, AGI אמיתי, נצטרך עדיין עורכי דין ופוליטיקאים ומתכנתים ורופאים ומהנדסים ואמנים מוכשרים ומעמיקים, כאלו שמתנסים במפגש בלתי אמצעי עם העולם, מנסים להבין אותו ולחשוב על האופנים הנכונים שראוי לעצב אותו. הדברים עוד יותר קריטיים כשחושבים על הדברים העמוקים יותר שדיברנו עליהם, על האופן שבו ה-AI רק משקף את הערכים והמטרות של בני האדם, והמטרות הללו יכולות להשתנות, להשתדרג - אבל כל זה רק אם אנחנו פעילים בעולם ומנסים לחשוב על הדברים בעצמנו. בלי אנשים שבונים את עצמם באופן הזה, בהמשך הדרך הכלים מהסוג שיש בידינו כיום יתנוונו בעצמם, ויתחילו לייצר לנו תוצרים רדודים וחסרי מעוף. מה שאנו קוראים לו AI כיום לא יוכל לחרוג הרבה מעבר למקום שאנו מצויים בו כחברה, ולכן עדיין מוטלת עלינו האחריות להמשיך ולקדם אותה.
לשחק אסטרטגית: לקחים מהלכות קידוש החודש ביהדות
נסכם את הדברים. התפיסה המינימליסטית שהצעתי כאן היא לראות ב-AI את הצעד המשמעותי הבא אחרי האינטרנט. האינטרנט חיבר את רוב העולם למערכת תקשורת אחת, כזו שמאפשרת לכולם לדבר עם כולם ולשאוב מידע מכולם. זה מצויין, אבל ייצר בעיה גדולה - איך להתמודד עם כמויות המידע העצומות הללו כשיש לנו זמן מוגבל. כאן נכנס ה-AI דמוי GPT, בתור הטכנולוגיה הראשונה שמאפשרת לנו לברור במבול המידע שיש שם בחוץ ולמצוא ולמנף את הדברים לפי הצרכים שלנו. אישית אני חושב שזו פרספקטיבה מעניינת, והייתי רוצה להציע לכולכם לבדוק, בכל פעם שיש איזה עדכון מתוך עולם הטכנולוגיה, האם אפשר להבין את מה שמספרים לכם מתוך המקום המינימליסטי הזה, או שחייבים להוסיף גם תבלינים כמו תבוניות סיליקונית כדי להסביר את מה שקראתם.
בכל אופן, כיוון שבזווית הזו היא רק צינור הנגשה, החובה עלינו לייצר עוד ועוד ידע היא קריטית. זה כמו שנגלה מחר מצבורי נפט גדולים בישראל, או מתכות נדירות שחשובות מאד היום בשוק העולמי. זה יהיה מאד מפתה להגיד, “וואלה, אין עוד צורך להשקיע בהייטק, בטכנולוגיות מתקדמות, בואו פשוט נמכור את המחצבים הללו ונהנה מכלכלה עשירה ללא מאמץ”. גישה שכזו תהיה קצרת-רואי, כזו שנשלם עליה את המחיר אולי רק בעוד כמה דורות, אבל אז זה יכאב, יכאב מאד.
בעניין הזה, הייתי רוצה לסיים את הפרק בשיתוף סוגיה בהלכה היהודית בעניין קביעת התאריכים בלוח העברי, כזו שבמשך שנים תמהתי לגביה ושנראה לי רלוונטית לענייננו.
הקדמה קצרה לאלו שלא יודעים: לוח השנה היהודי אמור להיקבע לפי מחזור הלבנה, כפי שהיא נראית בישראל, ולפני הגלות היו מגיעים עדים לירושלים כדי להעיד בפני בית הדין על ראיית הלבנה ובכך לקבוע את תחילתו של חודש חדש. או-אז, היו נשלחים שליחים לכל קצוות תבל, לכל מקום שבו יש קהילה יהודית, כדי לספר להם שהחודש החדש הגיע. לשליחים הללו היה לוקח הרבה זמן להגיע ליעדם, כמובן, ולכן חגים מסויימים נחגגים בחוץ לארץ יומיים במקום יום אחד, שכן השליחים היו מגיעים אחרי שהחג קרה, ובני המקום ההוא לא רצו לקחת סיכון שהם יפספסו את התאריך, ולכן חגגו פעמיים ליתר ביטחון, לכסות מקרים שבהם החודש הקודם היה 29 ימים וגם מקרים שהיה 30 ימים.
כך היו הדברים בעבר, אבל כבר מעל 1000 שנה שיש לנו לוחות שנה מבוססי מסלול הירח, כאלו שמסוגלים לחזות את התאריך המדוייק של תחילת החודש שנים ועשרות שנים קדימה. לכאורה, בהינתן הטכנולוגיה החדשה הזו, אפשר היה לבטל את המנהג הזה ולשמור את חגי ישראל בחו”ל כמו בישראל, רק יום אחד. אלא שהתלמוד הבבלי שוקל את העניין במפורש, וקובע בתגובה: “וְהַשְׁתָּא דְּיָדְעִינַן בִּקְבִיעָא דְיַרְחָא, מַאי טַעְמָא עָבְדִינַן תְּרֵי יוֹמֵי? מִשּׁוּם דִּשְׁלַחוּ מִתָּם: הִזָּהֲרוּ בְּמִנְהַג אֲבוֹתֵיכֶם בִּידֵיכֶם, זִמְנִין דְּגָזְרוּ הַמַּלְכוּת גְּזֵרָה וְאָתֵי לְאִקַּלְקוּלֵי.” [= עתה שאנו יודעים בקביעת הלבנה, מה הטעם שאנו חוגגים יומיים? משום ששלחו מארץ ישראל: הזהרו במנהג אבותיכם בידיכם, פעמים שתגזור המלכות גזרה ונבוא לידי קלקול]
לפעמים המלכות תגזור גזרה, תבטל את הגישה ללוחות השנה, ונגיע לידי קילקול, קובעת הגמרא. אני זוכר את עצמי חושב לעצמי כילד - יבטלו לנו את לוחות השנה? נשמע קצת קיצוני והזוי, לא? אבל היום אני מסתכל על הסיפור הזה אחרת. “אנחנו משחקים כאן משחק לדורות קדימה”, אומרת הגמרא, “ואנחנו צריכים מערכת שיכולה להתמיד גם תחת זעזועים קטסטרופלים. מערכת שכזו היא מערכת שלא שוכחת לשמר יכולות בעיתות שלום ונוחות, מתוך ידיעה וציפיה שאולי בעתיד המצב יהיה קשה ביותר. או אז היכולות הללו יהיו חשובות, ואולי בצורות שאנחנו לא יכולים לדמיין כרגע”
הדברים הללו אמורים, כמובן, גם לגבינו. בעשורים הקרובים, המדינות והחברות שינצחו במאבקים הפנימיים שביננו ובמאבקי ההישרדות ביחס לטבע וכן הלאה הם אלו שידעו לאזן, החברה שתדע לסחוט את ה-AI עד הסוף אבל גם להפיק בני אדם עשירים ברוחם ובריאים בנפשם שיוכלו להוביל, להמציא ולהדריך את החברה שלהם בסבך האנושי המתפתח. כיוון שכך, חשוב מאד שלא ניתן לאף אחד לגרום לנו להמר על כל הקופה, לעשות קניבליזציה של ההווה והעבר ולוותר בכך על העתיד, לקבל עתיד שבו היכולות השורשיות שלנו לחשוב, לשפוט ולאתגר אינן כפי שהן היו.
אז, זהו להיום! הנקודה הזו, על מקומו הקריטי של האדם גם בעולם עם AI עוצמתי, עלתה שוב ושוב בשלושת הפרקים האחרונים. זהו טבעה וכוחה של שיטת הזוויות, שאם מגיעים לאותה מסקנה בכמה דרכים, מתחילים לראות שכנראה יש דברים בגו, ולהבין את עומק העניין.
אבל כל מה שאמרנו כאן מסתמך על איזה מודל, כזה שלפיו ה-AI אינו יכול להיות מנוע עצמאי של יצירתיות. ומי אמר שזה באמת המצב? נראה לי שחשוב, רגע לפני שנסיים את העונה, שנגיד כמה דברים על בינה מלאכותית ויצירתיות - ואת זה אתם תפגשו, סוף סוף, בפרק הבא, 20 במספר.
נסיים באיחולי בריאות וביטחון בימים הלא-פשוטים שאנו מצויים בהם. מקווה לפגוש את כולכם בפרק הבא, אחרי המלחמה. ועד אז -
פורים שמח,
להתראות…
ביי…
