נתחיל בעדכונים:
פתחתי ערוץ טלגרם לפודקאסט! אתם יכולים למצוא אותו בקלות - קוראים לו "אלישע והזוויות" (מפתיע, אני יודע). שם אני אשתף כל מני מחשבות שצצות לי בהקשרים של הפודקאסט, ובכלל בהקשרים של הדברים שקורים סביבנו כאן בפוליטיקה ובחברה. לא מבטיח כתיבה רציפה שם - הכל לפי המוזה, והכל חדש עבורי - אבל זה חלק מהמסע שלי עם הפודקאסט, ובעיקר מקום שאני יכול לשתף מחשבות שלא מגיעות לפרקים הסדורים של הפודקאסט. המטרה העיקרית שלי היא שכל דבר שמגיע לשם יהיה אולי קצר יותר, אבל באותה איכות של חומר שמגיע אליכם כאן בפודקאסט. מוזמנים להצטרף!
ושנית - עשיתי ראיון בפודקאסט של תמיר דורטל, "על המשמעות", שבו דיברנו על מהפכת ה-AI ממקום יותר קרוב לשטח, איך נראית המהפכה הזו תכלס ומה צפוי לנו בשנים הקרובות. מוזמנים לבוא, להאזין, ולצפות.
אוקיי - ועכשיו לפרק, וכמו תמיד… שלום כולם, וברוכים הבאים ל"אלישע והזוויות", עונה שניה פרק 10! היום שושן פורים, ה-16 למרץ 2025, ובפרק היום אני אפרע לכם את החוב מסוף הפרק השמיני, שבו הבטחתי להביא את הקונטרה למה שעלה שם. שם אמרנו שכל מה שמחשבים עושים הוא לציית לחוקים הדטרמיניסטים שקודדו בהם, ולכן הם לא יכולים לחשוב, והיום אנחנו ננסה לאתגר את הטיעון הזה בעזרת הקונצפט של Emergent Properties, תכונות מתהוות, ועל הדרך לחלץ את המחשבים מן הכלא המושגי שנעלנו אותם בתוכו ולהראות איך, אולי בכל זאת, הם יהיו מסוגלים לחשיבה.
בואו נפתח את הפרק בכמה שאלות כלליות. חלקכם אולי יבין לאן אני הולך וחלקכם אולי לא, אבל אני מקווה שאתם סומכים עלי כבר שהכל יתקשר בסוף לנושא, אז בואו, זרמו איתי קצת לכמה דקות, ובסוף הכל יתבהר. ואנחנו נתחיל בשאלה: האם עשר פחות 1 זה תמיד 9?
בחשבון פשוט התשובה היא תמיד כן, אבל בעולם האמיתי זה לא תמיד ככה. כך לדוגמה, אם טילון עולה בקיוסק השכונתי 10 ש"ח, ילד שמגיע לקיוסק עם 9 ש"ח לא יחזור הביתה עם 90% מהטילון שהוא חושק בו. רק ידידו שמחזיק 10 שקלים מצוחצחים יזכה לעונג הזה. דוגמה אחרת שמוכרת לכולנו היא ציונים בבגרות - מי שהצליח לחלץ ציון 55 יזכה לתעודת בגרות מלאה, אבל התעודה הזו תחמוק ממנו אם הציון יהיה רק 54. ובעולם הפוליטי הישראלי, ההבדל בין ח"כ בודד לשני ח"כים הוא לרוב אפסי, בעוד שההבדל בין 60 חכ"ים ל-61 הוא עולם ומלואו.
מה משותף לכל הדוגמאות הללו, שבהן פער של 1 משנה עולמות? כמובן, הן מציגות מצב שבו השלם גדול מסך חלקיו. אפילו שמתחת לפני השטח יש צבירה גוברת והולכת של נכסים, נניח כסף, ציונים, וכח פוליטי בהתאמה, אבל לצבירה הזו תהיה השפעה על השטח רק שמגיעים למסה קריטית. רק כשמגיעים אליה, המערכת עוברת שדרוג מיידי ולעיתים שדרוג דרמטי מאד, למצב חדש שלא היה קיים בכלל לפני כן.
הדוגמאות הללו, עם כל זה שהן מגוונות, בונות כולן על אותה תשתית, והיא ההחלטה החברתית לפעול באופן מסויים. מחירים, תנאי סף לקבלת בגרות וכללי הממשל הדמוקרטי הינן כולן החלטות חברתיות. הן מגיעות ממקום הגיוני, אבל הכח שיש להם מגיע דווקא מעצם זה שהיתה החלטה, ואם נחליט אחרת - נניח, נחליט שציון 47 הוא ציון עובר - ההחלטה החדשה תעניק משמעות למספר החדש, ודווקא באזור המספר הזה נחוש איך השלם הוא יותר מסך חלקיו.
אוקיי, אז זה לגביי דברים מבוססי חברה, ושם אפשר לומר שהמנגנון די ברור: משהו משתנה דרמטית בנקודה מסויימת בגלל שאנחנו החלטנו ככה - פשוט וקל. בואו נעבור עכשיו למדעי הטבע ונשאל - מה קורה שם? ובכן, גם גם שם יש תופעות דומות. רקטות זקוקות למהירות קריטית כדי לחמוק מכח הכבידה של כדור הארץ ולטוס למאדים, ובלעדיה הם יאצלו לנחות בסוף חזרה על כדור הארץ. ברגים ישארו מוברגים חזק ולא יזוזו מילימטר עד שמישהו יפעיל עליהם כוח חזק מספיק כדי לשחרר אותם, ואז הם יצאו בקלות. ומעליות מסוגלות לפעול ללא בעיה במשך שנים, עד שמישהו יחליט שזה רעיון טוב לתאם שעשרים אנשים יעלו בתוכה בו זמנית וגם יקפצו תוך כדי שהיא בתנועה, ואז המערכת תושבת. מהירות של טיל, חיכוך של בורג, ומשקל של חפצים מצטברים כמותית עד שהן משפיעם איכותית. וכמובן, הדברים יכולים גם לפעול בכיוון ההפוך, ובמקום לדבר על איך הצטברות משנה את המהות, גם התמעטות וצמצום יכולים לשנות דינמיקות באופן מהותי, נניח באופן שבו מיזעור צ'יפים של מחשבים איפשר למהפכת הסמארטפונים לקרות, שהרי לבני אדם יש גודל מסויים של מכשיר שרק ממנו והלאה יהיה אפשרי לסחוב אותו איתנו לכל מקום.
גם כאן בואו נשאל - איך כל זה קורה? והתשובה היא שהמקבילה של ההחלטה החברתית במדעי הטבע הוא הקבועים של הטבע שלומדים עליהם בשיעורי המדע השונים, כאלו שמשרטטים את הגבול שצריך לעבור כדי להשיג את התופעה החדשה. אם נלך לפי סדר הדוגמאות שהבאנו, הקבועים הללו הם הקבועים של כח הכבידה שמאתגר את הרקטה, מקדם החיכוך של הבורג, וקבוע הקפיץ של מערכות הבלמים במעלית. את הקבועים הללו אנחנו לפעמים יכולים לשנות ולפעמים לא, ובהם טמונים המגבלות והפוטנציאל של כל מערכת.
אוקיי, איך כל זה קשור אלינו? ובכן, כפי שאתם זוכרים, בפרק השמיני הצגנו את מה שקראתי לו העמדה הסקפטית. אמרנו שם שכשמסתכלים מתחת למכסה המנוע, מגלים שאין שם בפנים לא אינטלגנציה ולא חשיבה ולא נעליים. המחשב עושה מה שאומרים לו ותו לא, וכל ייחוס של אינטלגנציה למחשבים היא טעות בכתובת - האינטלגנציה יושבת אצל בני האדם, והמחשב פשוט טוב בחיקוי שלה. ובכן, הדברים שבדיוק דיברנו עליהם מורים לנו דרך אחת להתמודד עם העמדה הסקפטית. אפשר לומר - זו טעות לחפש את האינטלגנציה בזום-אין חזק מדי על המחשב. כפי שבדיוק ראינו, מערכות מפתחות יכולות מסויימות רק כשמגיעים לכמות וגודל מסויימים. נניח, בואו ניקח את המוח האנושי להשוואה: גם על נוירון בודד במוח האנושי לא היינו אומרים שהוא חושב, ולכן גם צ'יפ בודד של מחשב אינו מגלם חשיבה. אבל כשהדברים מצטברים למסה גדולה מספיק ומאורגנים באופן מתוחכם, כמו שמתוך המוח בוקעת ועולה חשיבה, גם מתוך המחשבים יכולה לצמוח חשיבה.
הסיפור הזה שסיפרתי כאן מסקרן ביותר ומצית את הדמיון. אבל בדור שלנו נוסף לו עוד רובד, כיוון שמה שבדיוק תיארתי כאן נשמע מאד דומה למה שקורה בפועל עם מערכות ה-AI המתוחכמות שסביבנו. כבר דיברנו בעבר על כך ש-AI מודרני מבוסס על צריכה של כמויות אדירות של דאטה, אבל מה שלא סיפרתי לכם הוא איך הביצועים שלהם מושפעים מעוד ועוד דאטה. מסתבר שבמערכות ה-AI כמו GPT, ככל שהמערכת גְדֶלה כך גם הביצועים שלה משתפרים. ספיציפית, יש שלושה פרמטרים חשובים שמשפיעים על איכות המערכת: כמות הנוירונים במודל, כמות הדאטה שיש לה כדי להתאמן, וכמות הכח החישובי שהושקע בה. אם מגדילים את אלו במקביל, כך גם המערכת מראה ביצועים טובים והולכים. המערכות הגדולות יותר יכולות לעבור את מבחן טיורינג באחוזים גבוהים יותר, לענות על שאלות מורכבות יותר במבחני ידע ואינטלגנציה, וכן הלאה.
לתופעה הזו, שעם הגודל גם האינטלגציה מתעצמת, קוראים Scaling Law, שבתרגום עילג שלי זה יוצא "חוק סדר גודל". והנה, תאזינו למה שאומר על זה מייסד Anthropic בשיחה עם Lex Friedman, - אנתרופיק זו החברה שמייצרת את קלאוד, המתחרה של GPT - כשהוא מספר על החוויה שלו במפגש מתמיד עם התופעה הזו בחייו המקצועיים:
בעבר, עבדתי על התחום של זיהוי שפה. כולם אמרו "אין לנו את האלגוריתמים שאנחנו צריכים כדי לחקות את המוח האנושי"... היה לי מזל של מתחילים. אני זוכר שהסתכלתי על המערכות של רשתות נוירונים שהיו אז ואמרתי, "לא יודע, אולי לא חסר כלום, אולי אם פשוט נגדיל את רשת הנוירונים, נוסיף לה עוד שכבות, ונאכיל אותה יותר דאטה… אני ראיתי את זה כמו אוסף של מחוגים שאפשר לסובב לפי הצורך… ומה שראינו היה שככל שהמערכת גדלה גם הביצועים שלה השתפרו. ואפילו שלא היו לנו מדדים מדוייקים אז, אני ועמיתיי הרגשנו שככל שמגדילים את כוח החישוב, גודל הרשת וכמות הדאטה, כך הביצועים משתפרים.
בהתחלה חשבנו - אולי זה רק מאפיין של מערכות לזיהוי שפה מדוברת. רק ב-2017, כשראיתי את התוצאות של GPT1, הבנתי שעיבוד טקסטים זה המקום שבו אפשר לעשות פריצה כיוון שיש טריליונים של מילים זמינים לאימון…
אמנם בכל שלב של גודל שהגענו אליו, תמיד היו טיעונים סקפטיים לגביי הפוטנציאל של הגישה הזו… אבל בכל שלב מצאנו מעקף לבעיות שעלו או שפשוט הגדלת המערכת פתרה את הבעיות לבד… קשה לחזות את העתיד, וכל שיש לנו זה את העבר ללמוד ממנו, אבל את הסרט הזה ראיתי כבר בעבר, ואני אישית מאמין שאנחנו נמשיך להגדיל את המערכות הללו ולקבל בתמורה מערכות חזקות יותר, ושיש כאן באמת איזה קסם שעדיין לא הצלחנו להסביר באופן תיאוריטי.
לאור התופעה הזו, מאד מפתה להאמין שמתרחש כאן תהליך דומה לדוגמאות שהבאנו מקודם: שאינטלגנציה היא תופעה שבה הכמות הופכת לאיכות, שאפשר לייצר חשיבה מתוך הצטברות מסה קריטית של דברים קטנים. והנה דברים קצת יותר נחרצים באותו כיוון שאומר סם אלטמן, מייסד OpenAI שמייצרים את GPT:
מרגיש לי שפשוט במקרה נתקלנו בחוק טבע חדש - אני לא מאמין בזה מילולית, אלא יותר רוחנית - אינטלגנציה היא פשוט תופעה מתהווה של חומר (Emergent Property), ויש כאן ממש חוקים פיזקליים בפעולה. אנשים יצרכו לברר את העניין לעומק בהמשך.
ושימו לב למושג שהוא השתמש בו - Emergent property, תכונה מתהווה. זהו הביטוי שמכוון בדיוק לדברים שאחנו מדברים עליהם כאן: מצב שבו יש תכונות של מערכת שמופיעות רק בסדרי גודל גדולים, שקשה לזהות מראש כאשר מסתכלים על המרכיבים הבודדים שלה בנפרד.
אז את הכיוון אני משער שהבנתם. אלא שכאן אנחנו צריכים לעצור ולוודא שאנחנו לא נופלים לתוך מלכודת. המלכודת היא לחשוב שהסיפור הזה, של חומר שצומחת ממנו תבונה, דומה מספיק לטיל שפורץ את מחסום הכבידה של כדור הארץ. זו מלכודת כיוון שיש הבדל חשוב בין יצירת חשיבה לבין הדוגמאות שהבאנו קודם: בכל אחת מהן, היתה לנו מהות מסויימת שראינו אותה בקטן - מהירות של טיל, כח שמופעל על בורג, משקל שלוחץ על רצפת המעלית - ופשוט העצמנו אותה עוד ועוד עד שהיא פרצה מחסום. אבל במקרה של חשיבה זה מרגיש קצת סיפור שונה, או לפחות - סיפור שדורש חידוד. שכן מה שעומד בפנינו הוא לא איך לקחת מהות מסויימת ולהגדיל אותה, נניח לעבור ממכונה שיש לה IQ 50 למכונה עם-IQ 100 או 200, אלא איך בכלל לייצר לה IQ מלכתחילה - לעבור ממכונה שיש לה 0 IQ לבין זה שיש לה IQ 1. ואולי שווה שאזכיר לכם כאן שוב את המחסום שאנחנו מנסים לפרוץ כאן - בפרק השמיני אמרנו שכל השוס של המחשבים הוא בכך שהם לא חושבים, אלא מצייתים להוראות באופן מכני וחסר חשיבה. האתגר הגדול הוא להסביר איך עושים את המעבר משם, מ-אפס - למשהו שגדול מאפס.
וממילא, מה שחסר לנו כאן הוא להבין משהו יותר מורכב מהדוגמאות שראינו עד כה. אנחנו רוצים להבין איך מופיע לנו יש מאין. איך מאוסף חישובים חסרי חשיבה יכולה להיווצר חשיבה. בדיוק לזה רומזים שני המייסדים שציטטתי קודם, כשהם אומרים שיש כאן קסם שאנחנו לא מבינים אותו. אז, גם אם אנחנו לא מבינים את זה עד הסוף, שווה שנחפש השראה ממדעי הטבע האחרים כדי לראות - האם יש גם מערכות טבעיות שבהם קורה משהו דומה, ואם כן - איך זה קורה שם? והאמת, אתם כבר ניחשתם את התשובה, נכון? יש ויש מערכות ותופעות כאלו. אז, כדי להבין איך דברים כאלו יכולים להתהוות ובתקווה להשליך לסיפור שלנו, אנחנו נסקור כמה דוגמאות בדרגות גוברות והולכות של מורכבות ועניין. יאללה, לחגור חגורות!
הדוגמה הראשונה מגיעה ממקור מוכר מאד אבל אולי לא צפוי: התהליך שבו מים הופכים לקרח. כיוון שאני רוצה שנבין איך קורה הסיפור הזה של "תכונות מתהוות", אני פותח כאן סוגריים לפירוט קצת על המעבר הזה ממים לקרח. כמו שכל ילד יודע, כשמקררים מים מתחת ל-0 מעלות צלזיוס, המים קופאים והופכים לקרח. אבל מה שרוב הילדים לא יודעים הוא שלא כל כמות של מים יכולה להפוך לקרח, בלי קשר לכמה תקררו אותה. ספיציפית, לפי מחקר שיצא ב-2012, חייבים לפחות 275 מולקולות מים כדי שהקור יהפוך אותם לגבישי קרח. אחרת, הם ימשיכו להיות במצב צבירה נוזלי. כלומר, אנחנו רואים כאן שכדי שיווצר קרח, אנחנו חייבים מסה קריטית.
למה באמת יש צורך בכמות מינימלית שכזו? ובכן, מה שהקור עושה הוא לגרום לחלקיקים לנוע פחות ולהיצמד יותר אלו לאלו, שזה מרכיב אחד. אבל המרכיב השני החשוב הוא שיהיו מספיק מולקולות כאלו כדי שיחזיקו אחת את השניה במקום ויתנו לגביש יציבות. כמו כשבונים פאזל, שככל שנוספים לו יותר חלקים כך הוא מקבל יותר יציבות וצורה, כך גם כאן: צריך מינימום של מולקולות כדי שכל אחת תתפוס את המקום הנכון ביחס לאחרות, באופן כזה שכל מולקולה מחזקת את התצורה הגבישית ביחד עם המולקולות שלידה. וכל עוד אין מספיק כאלו, הצורה מתפרקת מיד.
בנוסף למעבר ממצב נוזל למוצק, לקרח יש גם עוד תכונות מתהוות, Emergent Properties, שמבדילות אותו מן המים ובכלל מהמון חומרים בטבע. התכונה המעניינת ביותר מהסוג הזה היא העובדה שקרח צף על המים. אצל רוב החומרים דבר כזה אינו אפשרי - כשמקררים חומר, החלקיקים נדחסים יותר וממילא המשקל הסגולי שלהם נהיה גדול יותר, ולכן היינו מצפים שהקרח ישקע בתוך המים. אבל באופן מפתיע קורה בדיוק הפוך, ורק במאה העשרים באמת הגיעו להבנה מדוע. מסתבר שהצורה הגבישית היציבה של מים במצב צבירה מוצק היא כזו שנראית כמו ריצוף של משושים (תמונה למטה - מקור: ויקיפדיה), והריצוף הזה משאיר המון מקום ריק בחלק הפנימי של המשושה. ואולי שווה גם לציין כאן בשולי הדברים שלציפה הזאת של הקרח על המים יש הרבה יתרונות, במיוחד עבור דגים באגמים קפואים, שיכולים להמשיך לשחות במים העמוקים בזמן שהקרח צף שם למעלה.
בהקשר של השיחה שלנו, מים שהופכים לקרח זו דוגמה יפה לכלל "השלם גדול מסכום חלקיו", ובגרסה מעניינת יותר ממה שראינו עד כה. שכן, בניגוד לטיל שמגביר מהירות, במקרה שלנו התכונה החדשה של "ציפה על פני המים" מופיעה רק כשעברנו את הסף החשוב של 275 מולקולות. ובנוסף, מה שמעניין בדוגמה הזו זו הסיבה להופעת התכונה החדשה: הכמות מאפשרת מערכת יחסי גומלין חדשה בין המולקולות, סוג של שיתוף פעולה ביניהן שמאפשר היווצרות של גביש.
לאור הנקודה הזו, אפשר גם להסביר סוף סוף למה התכונה הזו של המים לא התבררה לנו כשהסתכלנו על המולקולה הבודדת. שכן, שיתופי פעולה ויחסי גומלין הם בהכרח תכונות של קבוצה ולא של הפרט. בשל הצורך בקבוצה של מולקולות יש תחושה שבאמת נוצר כאן משהו מתוך כלום. במובן מסויים זה אפילו לא מדוייק לומר ש"תכונה של מולקולת מים היא שהיא יכולה להפוך לקרח", שכן זו לא באמת תכונה של המולקולה הבודדת, אלא רק של האוסף כולו.
אז, מים וקרח זו דוגמה חמודה, והיא מוכיחה שדברים שכאלו כן קורים בשטח. אבל זה עדיין מרגיש קצת רחוק מהנושא שלנו. האם אפשר לומר אותו הדבר על אינטלגנציה? האם יש לנו עדות מהשטח המדעי לכך שאינטלגנציה יכולה להתהוות מתוך מערכת שאינה אינטלגנטית?
ובכן, כאן יש דוגמאות מעולמות הביולוגיה שמרמזות למשהו כזה, נניח כשמסתכלים על להקות חרקים. בואו ניקח היום את המקרה המפורסם של קיני נמלים. התיפקוד של קיני נמלים הוא נושא מרתק, שכן מצד אחד כל נמלה היא טיפשה ביותר, ללא יכולת חשיבה מפותחת או שפה לתיאום עם הנמלים האחרות; ובו זמנית הנמלים מציגות כלפי חוץ פעילות מאורגנת ומסודרת, ובונות קינים מרשימים בגודלם ועיצובם, כאלו שלא היו מביישים מהנדסים מקצועיים. איך מתרחש התיאום הזה, תיאום שנראה כאילו הוא מאורגן על ידי תהליך חשיבתי מרוכז?
השאלה הזו הטרידה רבים וטובים לאורך ההיסטוריה. אריסטו, הפילוסוף היווני הקדום, היה משוכנע שהנמלים מתאמות בינן לבין עצמן את המטרה שלהן, וכך עובדות בשיתוף פעולה. וכך הוא כתב על הנמלים בספר שלו "ההיסטוריה של החיות":
יצורים חברתיים הם אלה שיש להם מטרה משותפת אחת; ותכונה זו אינה משותפת לכל היצורים... יצורים חברתיים כאלה הם האדם, הדבורה, הצרעה, הנמלה והעגור.
אבל האם זה באמת מה שקורה? האם הנמלים נפגשות באיזה מקום, משוחחות בינן לבין עצמן ומחליטות איך לפעול באופן מאורגן? ואם לא - אז איך הן מצליחות בפועל להתנהל באופן שנראה כאילו הוא מנוהל? ובכלים של הפרק הזה היינו אומרים: לא ברור במבט ראשון איך לתווך בין התכונות של הנמלה הבודדת, חסרת האינטלגנציה והפרספקטיבה הרחבה, לבין הפעילות של הקן כולו שנראה כאילו היא מתואמת ומכוונת למטרות גדולות.
ובכן, בעת המודרנית ניתנה התשובה לשאלה הזו. אני מסכם לכם כאן את הדברים שמופיעים בויקיפדיה בדילוגים גדולים. מסתבר שנמלים מתקשרות ביניהן בעזרת פְרומונִים, שהן חלקיקי ריח. כשנמלה מסתובבת על האדמה, היא מותירה בעקבותיה פרומונים שונים במצבים שונים, וכשנמלים אחרות פוגשות בְּמסלול הפרומונים הזה - הן מגיבות בהתאם. לדוגמה, כשנמלה מוצאת מזון, בדרך חזרה אל הקן היא משאירה לאורך מסלול ההליכה חזור פרומונים רבים. באופן הזה נוצר קו של פרומונים על הקרקע, וכשנמלים אחרות נתקלות בפרומונים הללו הן פשוט צועדות, עקב בצד אגודל, על אותו המסלול עד שהן מגיעות אל מקום המזון. אז ברמה הטכנית, הפרומונים הם כמו טביעות רגליים שמשאירות חותם בקרקע, אבל באופן עמוק יותר אפשר לומר שהסימונים של הפרומונים על הקרקע מתפקדים כסוג של שפה שדרכה הנמלים מתקשרות, וזאת גם ללא שהן מתכוונות לתקשר.
מנגנון הפרומונים הוא מנגנון מגניב. קודם כל, לנמלים יש סוגים שונים של פרומונים לסימון מצבים שונים. ושנית, הוא גם מסוגל להסביר הרבה מהיכולת המרשימה של נמלים להגיב למצב המשתנה בשטח. נניח, אם נמלה מוצאת הרבה אוכל, אז הנמלים שהלכו בעקבות המסלול שלה ימצאו גם הם אוכל, ואז כשהם חוזרים חזרה לקן - גם הם יסמנו את אותו המסלול עם הפרומונים שלהם, וזה יחזק ויעבה את המסלול, וחוזר חלילה - יגדיל עוד יותר את התנועה הנמלית לכיוון האוכל. וכשהאוכל יגמר, הנמלים יחזרו לקן ללא אוכל, ולא ישאירו מסלול פרומונים חדש, עד שהמסלול יעלם. כלומר, רואים כאן איך תבניות תקשורות מורכבות יכולות להופיע מתוך כללים מאד פשוטים וחסרי חשיבה, כאלו שנמלה יכולה לבצע בלי להכיר את המערכת כולה. ולמי שמעוניין לדעת, יש שם לסוג כזה של תקשורת, שבה דברים שחלק אחד מהקהילה עושה משפיע על החלק האחר, אבל ללא מודעות או פנייה ישירה אליו. קוראים למנגנון המדהים הזה Stigmergy.
בכל אופן, בואו נחזור לנושא שלנו. ואכן, כמו בסיפור של הקרח - אנחנו חייבים להודות שהתבנית הזו לא היתה מתגלה בפנינו אם היינו בוחנים נמלה בודדת. גם לא שניים או שלושה. אולי כל נמלה היתה הולכת לכיוון אחר ולא נתקעת במסלול הפרומונים של השניה. היינו אולי מגלים את הפרומונים, אבל חושבים שזה רק משהו צדדי, ריח שנמלים משאירות בעקבותיהן שאין לו משמעות של משהו מערכתי. אבל כיוון שזכינו לראות את הנמלים כשהן מגיעות למסה קריטית, או אז מתגלה בפנינו המרכיב הסודי שהנמלים הבודדות הציגו בפנינו בריש גלי ואנו בכלל לא שמנו לב - הפרומונים והאופן שהם משמשים לתקשורת.
הדברים הללו מתקשרים ישירות לשאלת היצירה של אינטלגנציה מתוך תהליכים חסרי אינטלגנציה. גם כאן, הרכיבים הבודדים במערכת הם הנמלים, ולהם אין בדל של אינטלגנציה גבוהה. אבל לקן הנמלים נראה שיש אינטלגנציה גבוהה יותר מסך חלקיה, לפחות אם בוחנים זאת לפי היכולת שלהם לפתור בעיות מורכבות של מציאת אוכל, בניית קן וכן הלאה. קיני נמלים מוכיחים לנו שוב שאולי אינטלגנציה יכולה לנבוע באופן אורגאני - מפתיע אך טבעי - מתוך אוסף של רכיבים שאינם אינטלגנטים.
אז, הבאנו כאן שתי דוגמאות שממחישות את הרעיון, אבל נראה לי שזה יהיה פשוט פשע לא להביא כאן לקראת סיום את הדוגמה הכי משכנעת בסיפור הזה, והיא הסיפור של ה-DNA, הגנום, והאופן שבו הוא מכתיב את היווצרותם של חיים על פני כדור הארץ. לאורך מאות ואולי אלפי שנים אנשים התפעלו מקיומם של יצורים חיים, ותהו - מה מבדיל בין החי והצומח לדומם, ואיך מתהווים להם חיים? אני שם בצד את הדיונים על הפן הדתי של החיים, דיונים חשובים כשלעצמם, ומתמקד יותר באזורים שבהם המדע ניסה להבין מהם חיים ומה מבדיל בינם לבין הדומם. ובכן, אחת התיאוריות המובילות מן העבר היתה זו שנקראת "חיוניות", vitalism. על פי התיאוריה הזו, יצורים חיים עשויים ממש מחומר אחר, "חיוני" יותר, אטומים שונים מהותית מאלו של חפצים דוממים. תחשבו על זה כמו על גזענות ביחס לדומם, כאילו הדומם עשוי מחומר שונה לגמרי מאשר אני או אתם או הכלבים והחתולים שלכם. וכמובן, אפשר להבין למה אנשים חשבו כך, גם בלי לערב אמונות דתיות: החומר שממנו עשויים היצורים החיים הוא דינמי, הוא יודע לרפא את עצמו ולהתאים את עצמו לתנאי סביבה משתנים, וגם להתרבות כמובן. נראה במבט ראשון שהוא באמת שונה.
תפיסת העולם הזו החלה להתערער בשנת 1828, כאשר המדען פרידריך וולר סינתז בטעות שֶתְנַן - תרכובת אורגנית הנמצאת בשתן - ועשה זאת מחומרי גלם אנ-אורגניים לחלוטין. הוא כתב בהתרגשות לעמיתו: "אני יכול לייצר שֶתְנַן בלי צורך בכליה או בבעל חיים, בין אם אדם או כלב." במילים אחרות, הוא פתאום הבין שהחומר שמיוצר על ידי היצורים החיים ניתן לייצור גם מחומר דומם.
מאז עברו הרבה מים בירדן, והתגלית של הגנום יותר ממאה שנה אחרי כן חשפה סופית את מה שקורה כאן: חיים מתאפשרים לא על ידי שימוש בחומר שונה, אלא על ידי סידור של החומר הדומם הרגיל במערכת מסועפת ומורכבת. מה שמקודד את ההוראות לבניית החומר החי הינו ה-DNA, שכאשר הוא נמצא בתוך מערכת שיודעת לקרוא אותו ולממש את מה שמקודד בו, מופיעים להם חיים. התיאור הזה הוא כמובן ממש גס ולא מדוייק, אבל לצורך העניין שלנו כאן האלמנט המתהווה של המערכת הוא מה שחשוב. גילוי ה-DNA בעצם אמר משהו כזה: חיים אינם תכונה שאפשר לזהות מתוך החומר ברבדים הנמוכים ביותר שלו, אלא הן "תופעה שמתהווה" כשלוקחים הרבה דברים שאין בהם חיים ומארגנים אותם בצורה מתוחכמת. ולכן, כדי להבין את מהותה של תופעת החיים, צריך להסתכל רחב יותר וממעוף הציפור, ולא לְצַפּות למצוא את התשובה בניתוח המולקולה הבודדת.
(בתמונה: ווטסון וקריק עם המודל שלהם ל-DNA)
אוקיי - הרבה חומר ראינו כאן היום! אישית, אני נלהב מאד מכל הרעיון של תופעות מתהוות. באמת, כפי שאמר מייסד אנתרופיק, יש כאן תחושה של קסם כשמשהו מופיע פתאום מתוך מערכת, וקסמים תמיד כיף לראות, ועוד יותר לנסות לפצח. ועכשיו אנחנו צריכים, ככה לסיום, לסכם ולשאול - איפה זה מציב אותנו?
באופן עקרוני, אין סתירה בין הפרק השמיני לבין הפרק הזה. מה שראינו היום לא הוכיח שבאמת, ב-GPT מתהווה אינטלגנציה. מה שקיבלנו כאן זה יותר סוג של סימן שאלה גדול, אמירה כללית שאומרת שצריך להיזהר לפני שקובעים מסמרות ביחס למערכות גדולות והמגבלות שלהן. הטיעונים מהפרק השמיני עדיין עומדים על תילן, אבל עכשיו אנחנו אולי קצת יותר פתוחים לקבל שיכול להיות שפיספסנו שם משהו. הרי, אם חיים יכולים להתהוות מתוך הדומם, האם אין זה אפשרי שאינטלגנציה יכולה לצמוח מתוך מיליוני פקודות מחשב דטרמניסטיות? וכשרואים את התופעות של "חוקי סדר הגודל" של הבינה המלאכותית, האפשרות שזה מה שקורה כאן מקבלת חיזוק נוסף.
הפרק הזה, אם כן, משאיר את השאלה פתוחה ברמה העקרונית, במקום להכריע את הכף לאיזה צד. ואישית, אני שמח מהמצב הזה, שכן הנושא שלנו הוא כזה שיותר משחשוב שנדע את התשובה, חשוב שנדע איך לחשוב על השאלה. זה מקום בריא יותר להיות בו, כאן ובכלל בשאלות גדולות בחיים.
אבל אם חשבתם שבזה סיימנו את העונה - טעות בידיכם! יש לנו עוד כמה פרקים חשובים בדרך, שכן יש דרך נוספת לתקוף את הסיפור הזה. בשלושת הפרקים האחרונים דיברנו על היכולת העקרונית לקבל בינה מלאכותית בתוך מחשב, ושם הגענו לסוג של תיקו. אבל בפרקים הבאים אני רוצה לקחת מאפיין בודד ומרכזי של החשיבה האנושית, ולהקביל אותה למאפיין בודד ומרכזי של מערכות AI כפי שהן בנויות היום, ולטעון ששם בעצם טמון החסם הגדול של בינה מלאכותית כיום - או לפחות אחד החסמים המהותיים ביותר, ושבגללו המערכות שיש לנו היום לעולם לא יוכלו להחליף את בני האדם. אבל כדי לדעת מהו אותו המאפיין, ולמה אני כל כך משוכנע - תצטרכו לחכות לפרק הבא…
להתראות, ביי…
Share this post