שלום כולם, וברוכים השבים לאלישע והזוויות! היום ה-16 ליוני, 2024, י’ סיון תשפ”ב, ואנחנו מתחילים את הסדרה השניה, סוף סוף!
היתה לנו הפסקה של כמה שבועות - מקווה שהיה לכם זמן להתאושש. הפודקאסט סיים את העונה הראשונה שלו גם באופן מאד מדוייק, ממש כשהמחאות הנרחבות בקמפוסים בארצות הברית התעצמו, ואני רוצה להאמין שאלו מכם שהאזינו לו בזמן אמת זכו להבין קצת יותר טוב את מה שרוחש שם מתחת לפני השטח. וכמו שאמרתי, יכולנו להמשיך לדבר על הפרוגרסיביות עוד ועוד, בעיקר כשמדובר במשהו שכל כך נוכח בחיים האמיתיים שלנו כיום. אבל מצד שני - יש עוד דברים מעניינים בעולם שכדאי לדון בהם, ואולי דווקא בתקופה הזו טוב לתת למוח שלנו גם זמן לעסוק בדברים אחרים, כמו אלו שנדבר עליהם בסדרה הנוכחית.
האמת, גם אני הייתי צריך זמן להתאושש. כשסיימנו את העונה, חשבתי שתוך שבועיים-שלושה אני מתחיל שוב - לתכנן, לקרוא, לכתוב! אלא שבפועל גיליתי עד כמה הייתי מושקע רגשית בעונה הקודמת, וזה הרגיש לי ממש כמו (שאני מדמיין) לידה. בשבועות הראשונים היה לי קשה להאמין שאני לא מקליט עוד ועוד על הפרוגרסיביות, ולקח זמן עד שיכולתי להתנתק לגמרי ולנקות את הראש כדי לחשוב על הנושא החדש שנדבר עליו בעונה הנוכחית - מהפכת ה-AI, הבינה המלאכותית. (במקור אמרתי שנדבר גם על אבולוציה, אם אתם זוכרים - אנחנו ניגע באבולוציה במקומות הרלוונטים, אבל הפוקוס כרגע יהיה AI).
אחד הדברים המעניינים שקרו בתקופה הזו היה להתראיין לפודקאסט המפורסם "פופקורן" של ליאור פרנקל. דיברנו שם על שמרנות וליברליות ופרוגרסיביות, איך לא. החוויה היתה מדהימה, ואני אשמח כמובן שתאזינו. זה הזמן להגיד לכם גם שאני אשמח לעשות עוד שיחות וראיונות שכאלו, בין אם במסגרת הפודקאסט שלי ובין אצל אנשים אחרים. אז בין אם אתם רוצים להמליץ למישהו לארגן איתי שיחה, ובין אם אתם רוצים לשלוח לי קישור למישהו שלדעתכם יהיה מעניין להפגיש ביננו לצורך שיחה שכזו כאן בפודקאסט - בבקשה, לכו על זה. אני גם פועל על אש קטנה בנושא הזה מהצד שלי, ומי יודע, אולי תגיעו לכאן יום אחד ותשמעו דיאלוג במקום מונולוג לאיזה פרק או שניים.
לקראת העונה החדשה, אני צופה שהפרקים יצאו בקצת קצת יותר איטי מהעונה הקודמת - פעם בשבועיים-שלושה, ככה, אבל עדיין בימי חמישי (חוץ מהפרק הזה, כפי שאתם רואים :) ). זו לפחות התכנית שלי, אבל תמיד יכול להיות שאוציא כמה פרקים שבוע אחרי שבוע - הכל לפי המוזה והזמינות. אז אני ממליץ לכולם לבדוק בימי חמישי אם יצא משהו חדש, ועוד יותר - להירשם לאתר האינטרנט של הפודקאסט. כל מי שנרשם מקבל לא רק גישה לטסקטים של הפרקים, אלא גם מייל כל פעם שיוצא פרק חדש, מה שיחסוך לכם את הצורך לבדוק בעצמכם אם יצא משהו.
אז יאללה, סיימנו את ההקדמות של העונה - בואו נצלול!
איך מתחילים עונה חדשה על נושא כל כך עשיר כמו AI, בינה מלאכותית? בסיפורים כמובן!
ב-1971, ייסד קלאוס שוואב, איש עסקים שוויצרי-גרמני ומהנדס בהכשרתו, את מה שיקרא לימים ה-WEF, הפורום הכלכלי העולמי, שמאגד בתוכו הרבה מהחברות והמשקיעים הגדולים בעולם. פעם בשנה מתכנסים אנשי הפורום בדאבוס שבשווייץ, ודנים בתמורות העולמיות סביב עסקים וטכנולוגיה. בכל אופן, ב-2017 ראיין קלאוס, שעדיין הנהיג את הארגון עד ממש לאחרונה, את סרגיי ברין, אחד משני המייסדים של גוגל, ובשעתו עדיין נשיא החברה המפורסמת. השיחה שלהם, שארכה כחצי שעה, סבבה סביב שאלות של טכנולוגיה וחברה, ועתיד האנושות בכלל.
עכשיו, חשוב שתבינו שארגון ה-WEF מעורר אצל אנשים רבים בעולם אי-נוחות מכל מני סיבות, ואחת מהן היא התחושה שמדובר בפורום שמכנס בתוכו הרבה אנשים עם הרבה כוח, כוח שיכול לאתגר גם מדינות רבות. החשש של חלק מן המבקרים של הפורום הוא ששם, מאחורי דלתיים סגורות, מתכננים כל מני אנשים בעלי עוצמה כלכלית איך לנהל את העולם, וזאת ללא שהם נבחרו על ידי האזרחים הפשוטים כמוני וכמוכם. ממילא, כל כמה זמן עולות ידיעות בנושא הפורום, שיש בהם כנראה בליל של עובדות אמינות מעורבבות עם תיאוריות קונספירציה, ולמי שלא מעורה עמוק בפרטים קשה להפריד בין הדברים הבעייתיים באמת לבין סתם חששות מנופחים של אנשים שאינם חלק מהברנז'ה. ויאללה, בואו ניקח לדוגמה את אותו הראיון של שוואב וברין. אם תחפשו באינטרנט תוכלו למצוא סרטונים שמצהירים "קלאוס שוואב שואף לבטל את הדמוקרטיה ולתת למחשבים לשלוט בעולם!"
האם זה מה שהיה שם? הנה הקטע בשיחה המדוברת שעליו קמה הסערה:
שוואב: חשש מסויים ששמעתי מהרבה אנשים הוא שהנה, יש לטכנולוגיה שלנו כיום יכולות אנאליטיות, מכאן נתחיל ללכת ליכולות תחזיתיות, כמו שיש לחברה שלך, גוגל, אבל בהמשך אולי אפשר להיכנס למצב של התווית מדיניות, כלומר אולי לא צריך בחירות דמוקרטיות כי אפשר מראש לחזות ולדעת מה תהיה התוצאה. האם אתה מסוגל לדמיין מציאות שכזו?
ברין: האמת שאז תצטרך לשאול, למה צריך בכלל נציגים נבחרים, שהרי אפשר כבר להחליט את כל ההחלטות שצריך באופן אוטומטי. אתה נכנס כאן לשאלות עמוקות ביותר. אפשר גם לשאול "מה בכלל נרצה בעתיד?" הרי יש לנו היום רצונות ושאיפות שונות ביותר ממה שהיה לפני מאה שנה, ואולי נמשיך להתפתח. הרי כולנו כאן משתתפים בכלכלה העולמית, אבל חלק מאיתנו בוחרים להיות נזירים בודהיסטים ולהתמקד בהארה רוחנית – אז אנשים מתפתחים באופנים מיוחדים ומחפשים משמעות באופן שונה, כך שאולי בעוד מאה שנה הדברים ייראו לנו אחרת לגמרי וכל הצרכים יהיו משהו שלא היה בעבר.
ובכן - מה אתם חושבים? מה בעצם נאמר כאן? אני חושב שצריך להבחין בין הפשט, מה שנאמר במפורש, לבין הדרש, מה שהיינו קוראים לו הסאבטקסט. ברמת הטקסט אף אחד לא אמר שצריך לבטל בחירות דמוקרטיות כאן. הדברים נאמרו יותר בתור שיח זורם, שוואב מציג זאת במפורש בתור חשש של אנשים מסויימים ולא בתור דעה שהוא תומך בה, וברין לא באמת עונה לשאלה שלו. תאזינו שוב ותראו - ברין לא נותן תשובה חותכת, ושוואב לא מתעקש שיתן תשובה ברורה.
אבל בסאבטקסט הדברים נראים דווקא להיפך. שכן סרגיי ברין, בתשובה המפותלת שלו, מציע שאולי הקיום האנושי יתפתח באופן כזה שאולי אנשים כבר לא יתעניינו בכלכלה או פוליטיקה כבר. אולי הם יתעניינו יותר ברוחניות, בהתעלות רוחנית. והסאבטקסט של זה, לפחות להבנתי, הוא שכן, בעתיד אולי אפשר יהיה לתת לכל הדברים הגדולים בעולם, הטכנים, להיות מנוהלים על ידי מחשבים, ואנחנו בני האדם פשוט נתפנה לעיסוקים פרטיים קטנים, נהיה חופשיים לעשות מדיטציה כל היום כי כל העניינים הגדולים - פוליטיקה, חברה, כלכלה - הם כבר יטופלו על ידי המחשבים הסופר-חכמים שבנינו. וכיוון ששוואב לא מאתגר אותו קצת בעניין הזה, לא מבקש שיחדד את הדברים - אני אישית מבין מכך שהוא מרגיש בסדר עם חזון שכזה, גם אם הוא לא אומר אותו במפורש.
עכשיו, אתם יכולים להסכים לפרשנות שלי, או לפרש אחרת - תמיד כיף לשחק בארגז החול של תיאוריות קונספירציה, נכון? אבל אני רוצה להתמקד דווקא בשאלה עצמה - האם באמת בעתיד לא יהיה טעם בבחירות דמוקרטיות, כי המחשבים שבנינו יהיו כל כך חכמים שאין שום דבר שהם עושים שבן אנוש יוכל להשתוות אליהם בו?
רעיון שכזה הוא כמובן לא חדש, וספרות המדע הבדיוני מלאה בסיפורים שמשתעשעים בו. יש כאלו שראו בעולם שכזה דיסטופיה ויש שראו בכך אוטופיה. בין אלו שהציעו, דרך כתיבתם, שעתיד שכזה הוא אולי רצוי ולפחות בלתי נמנע, היה הסופר המפורסם אייזיק אסימוב. בפרק האחרון של ספרו "אני, רובוט", שיצא ב-1950 ושכותרתו "הקונפליקט הבר-מניעה", מסופר על עולם שבו מערכות המיחשוב הסופר-חכמות עברו גלובליזציה ומתכננות את כל הייצור העולמי כדי להשיג אופטימיזציה של טובת החברה האנושית. הסיפור מספר על כמה דמויות רמות-דרג - סוזן וסטיבן - שמזהות אנומליות בהוראות שמערכות המיחשוב מוציאות מתחת ידיהן, דברים שנראים על פניו כטעות. מכונות משוכללות שכאלו לא אמורות לטעות לעולם, ולכן גיבורי הסיפור יוצאים לחקירת העניין, לרדת לעומקם של דברים.
בסיום החקירה, הם מסיקים שהמכונות לא טעו - מה שנראה במבט ראשון כטעות הוא בעצם סטייה מתוכננת מראש, שנועדה לייצר תהליכים ביורוקרטים פנים-ארגוניים שיובילו לכך שכל מני אנשים בנקודות מפתח בתהליכי הייצור יפוטרו, או יועברו לתפקידים אחרים. המכונות רצו לנטרל את הכח של האנשים הללו, כי הם היו חלק מתנועה בשם "החברה לאנושיות" שקראה לצמצום הכח הניתן למכונות בעולם. בעולם הדמיוני של אסימוב המכונות מתוכנתות לעזור לאנושות, והן הסיקו שטובת האנושות היא שהם ינהלו את כל העולם - ולכן יזמו כמה אפקטי-דומינו קטנים שינטרלו את הסכנה מאותם אנשים שמתנגדים לשליטת המכונות.
לאחר שההבנה שכך הם פני הדברים מתחוורת לחוקרים, הסיפור מסתיים בדיאלוג הבא:
"סטיבן, כיצד נדע מהו הטוב העליון של האנושות? אין בידינו את כל המידע והמשתנים האינסופיים שיש למכונה! אולי, אם אתן לך דוגמה לא-בלתי-מוכרת, כל הציוויליזציה הטכנולוגית שלנו יצרה יותר אומללות וסבל מאשר היא מיגרה. אולי ציוויליזציה חקלאית או מבוססת רעיית צאן, עם פחות תרבות ופחות אנשים, תהיה טובה יותר. אם כן, המכונות צריכות לנוע בכיוון הזה, עדיף בלי לספר לנו, כיוון שבבורותנו הקדומה אנו יודעים רק שמה שאנו רגילים אליו הוא טוב - ואז נילחם בשינוי. מי יודע - אולי עיור מוחלט, או חברה מבוססת-קאסטות, או אנרכיה מוחלטת, הן המצב האידיאלי. איננו יודעים. רק המכונות יודעות, והן הולכות לשם ולוקחות אותנו איתן."
"אבל את אומרת לי, סוזן, ש'החברה לאנושיות' צודקת; ושהאנושות איבדה את זכותה לומר את דברה על עתידה." תבע סטיבן.
"מעולם לא היתה לה הזכות הזו, באמת," ענתה סוזן. "היא תמיד היתה נתונה לחסדיהם של כוחות כלכליים וחברתיים שלא הבינה -- לגחמות של אקלים, ולגורל המלחמה. עכשיו המכונות מבינות אותם; ואף אחד לא יכול לעצור אותן, כי המכונות יטפלו בהם כפי שהן מטפלות ב'חברה לאנושיות' - כיוון שיש להן, כמובן, את הנשק הגדול ביותר בהישג יד, את השליטה המוחלטת בכלכלה שלנו."
"איזה דבר נורא!" אמר סטיבן.
"אולי איזה דבר נפלא! חשוב, שמעתה ואילך, כל הקונפליקטים העתידיים הם ברי-מניעה. רק המכונות, מעתה ואילך, הן בלתי נמנעות!"
עכשיו, אני סקרן - איך אתם מגיבים למשמע החזון הזה? האם הרעיון של עולם ללא צורך במערכות פוליטיות, עולם שבו הכל מנוהל אוטומטית מלמעלה בהוגנות וביעילות, קוסם לכם כשברור שעם זה מגיע גם ויתור על חופש הבחירה שלנו כאנושות להתוות את הדרך שלנו? או אולי דווקא סיפור שכזה מדיר שינה מעיניכם? תחשבו על זה. בינתיים, אני רק אעיר כאן לאלו מכם שהאזינו לעונה הראשונה שיש, גם כאן, הדהוד לדברים שראינו במתח שבין האידיאלים של חופש ומוגנות, שכפי שראינו מהווה את אחד הקווים שמבחין בין העמדה הליברלית לזו הפרוגרסיבית. אני כמובן לא אומר שיש הלימה מושלמת בין שתי השאלות, אבל העובדה שאנחנו פוגשים כאן דילמה דומה היא, לדעתי, לא מקרית, וגם לא יהיה מקרי למצוא יותר פרוגרסיבים במחנה שרואה בסיפור של אסימוב אוטופיה, ולהיפך אצל הליברלים. אנחנו עוד נפגוש את הקישורים הללו לעונה הקודמת בהמשך העונה, אם כי זה לא יהיה הדגש שלנו הפעם.
בואו נמשיך הלאה.
ב-2017, כשהתנהלה השיחה המדוברת בין שוואב וברין, היו כבר בכל מקום מערכות מיחשוב מתקדמות, המתהדרות בכינוי "מבוססות בינה מלאכותית". (אנחנו עוד נדבר במהלך הסדרה על מה זו "בינה מלאכותית" במובן המקובל כיום, אבל נכון לעכשיו מספיק שתדמיינו לעצמכם מערכות מאד מתוחכמות עם יכולות רחבות יותר מתוכנת מחשב רגילה.) תקשורת סלולרית, מערכות בטיחות ברכבים, גם הממשק בנטפליקס שמציע לכם סרטים לפי מה שצפיתם בעבר - אלו ואחרות סבבו אותנו כבר אז. אבל האדם ברחוב לא היה יכול לדמיין שהעתיד של אסימוב יכול להיות מעבר לפינה, שכן כל המערכות הללו היו קבורות עמוק בתוך מערכות מאד טכנולוגיות. כמו מנוע שכולנו יודעים שהוא שם אבל לא טורחים לפתוח את מכסה המנוע כדי לראות אותו, ה-"בינה המלאכותית" היתה שם אבל רק אנשי מקצוע זכו לגעת בה ישירות.
ואז, בסוף 2022, הגיח לו לעולמנו GPT-3, מה שקרוי בפי הציבור ChatGPT. עכשיו, אני הייתי בטוח שכולם כבר נגעו בכלי הזה עד היום, אבל בדיוק לפני כמה ימים גיליתי שמישהי קרובה אלי מעולם לא התנסתה בו. כמובן שמיד הכנסתי אותה לכלי, ודאגתי שהיא תשחק איתו קצת - כאילו, איך אפשר בלי לדעת? אז אם יש מישהו שמאזין או מאזינה לפודקאסט שמעולם לא שיחקו באחד מהכלים החדשים הללו, כמו GPT או מידג'ורני וכן הלאה - תעשו פאוזה, ותחזרו אחרי שקצת נגעתם בזה. החשיפה הבלתי-אמצעית למה שיש לכל אחד היום במרחק של הקלדה פשוטה היא די מדהימה, וחשוב שתבינו את זה כחלק מהבנת הפודקאסט כולו.
בכל אופן, הצ'אט החביב הזה היה ללהיט שהיכה את העולם בתדהמה. גם אנשים מתוך תעשיית התוכנה היו בהלם מהיכולות המרשימות בתחום השפה האנגלית שהמערכת הזו הציגה. זה לא שהם לא ידעו שיש התקדמות בתחום - גרסה מאד מוקדמת בשם GPT-1 כבר יצאה ב-2018, נניח - אבל רוב האנשים חשבו שזה עדיין יקח שנים עד שנגיע לרמה ש-GPT3 הגיעה אליה. בן לילה הבינו כל החברות הגדולות וכל יזמי ההייטק שנפל דבר, שכן התברר שיש דברים שלא חשבנו שאפשר לממש כיום, שנמצאים ממש בהישג יד. השאר, כידוע, הסטוריה - אנשים וחברות שכפלו ושדרגו מאז את ההצלחה של GPT, גם בתחומים אחרים כמו יצירת סרטי ווידאו ועוד ועוד, מוצרים מהפכניים שחלקם ישנו את החיים בעולם המערבי בשנים הבאות.
מה שהפך את GPT לכל כך מרשים, לכל כך כובש, היה שילוב של שני מרכיבים. המרכיב האחד היה, כמובן, הגמישות והמגוון בשימוש שלו. היכולת שלו גם לכתוב חמשיר לכבוד יום ההולדת של האחיין, וגם לענות על שאלות בהיסטוריה של מסופוטמיה, הפכה אותו לכלי המתבקש לכל דבר שאולי תרצה למצוא אונליין. אבל המרכיב השני היה עוד יותר חשוב, וזה ש-GPT היה הפעם הראשונה שטכנולוגיה שאפשר לדבר איתה כמו אל בן אדם - והיא מבינה את כל מה שאתה מנסה לומר באופן רגיל ושוטף - הפכה למשהו זמין לכל העולם. בכל סרטי המדע בדיוני רואים אנשים מדברים עם רובוטים ומחשבים בשפה רגילה והרובוט או המחשב מבינים ופועלים בהתאם. בפעם הראשונה יכולנו כולנו לדמיין שמשהו כזה איננו רק מדע בדיוני, אלא יעד שיושג בחיינו אנו, אפילו תוך פחות מעשור.
השילוב בין המון ידע - בא נגיד, כל הידע שטמון באינטרנט - לבין ממשק אנושי טבעי, העלה פתאום בעיני רוחם של הרבה אנשים את הפוטנציאל האדיר שגלום בטכנולוגיה הזו, פוטנציאל שיכול לשמש לעשיית טוב ולעשיית רע. תחת ה"רע" היתה לא רק הסכנה שאנשים רעים ומדינות "חשוכות", בוא נגיד, ישתמשו בכלים הללו לפגוע בנו, נניח דרך הצפה של הרשתות החברתיות בפייק ניוז, אלא משהו מעבר לזה - שהטכנולוגיה הזו עצמה תראה בנו אויב או לכל הפחות יצור נחות שיש לשלוט בו, בידיעתו או שלא בידיעתו. אחד מאלו שדאג באופן עמוק מדיסטופיה שכזו היה, לדוגמה, יובל נח הררי, שבמאמר ל-YNET כתב כך:
כלי הבינה המלאכותית שהופיעו בשנים האחרונות מאיימים על הישרדות התרבות האנושית מכיוון בלתי צפוי. כלים כגון ChatGPT פיתחו יכולות יוצאות דופן להבין וליצור שפה באמצעות מילים, צלילים או תמונות. הבינה המלאכותית השיגה שליטה בשפה, ובכך היא פיצחה את מערכת ההפעלה של התרבות האנושית… מה יקרה ברגע שבינה לא-אנושית תהיה טובה יותר מהאדם הממוצע בלספר סיפורים, להלחין מנגינות, לצייר ציורים ולכתוב חוקים, ותדע גם איך לנצל טוב יותר מכל אדם את החולשות וההתמכרויות של המין האנושי?
אם כן, נראה שהעתיד כבר כאן - שאמנם החזון של אסימוב לא התקיים בנו עדיין, אבל יש לנו כאן רמיזות עבות שהוא יכול להתקיים אם רק נרצה בכך. הכלים הקיימים עדיין לא חזקים מספיק כדי להיחשב "אינטלגנציה על-אנושית", כנראה, אבל חברות הטכנולוגיה השונות עובדות באופן אינטנסיבי לחיזוק הכלים הללו, וכל מני חוקרים בתחום חוזים שבלי שננקוט אמצעי זהירות, לא ירחק היום ובאמת נייצר כאן אינטלגנציה על-אנושית שכזו. וביום שזה יקרה, מה ימנע ממנה להתחיל להניע את העולם מאחורי הקלעים, באופן שאף אחד מאיתנו לא יהיה אפילו מודע שהיא עושה זאת? ומי יודע מה תהיה המוטיבציה שלה באותו יום? האם היא תהיה לנו, או לצרינו?
הררי הוא מאלו שנמצא בקצה אחד של הספקטרום מבחינת רמת הדאגה מן ההתפתחויות הללו. יש חוקרים במדעי המחשב, כמו יאן לה-צ'ון, שסבורים שהוא מגזים, ושיש בידינו את היכולת והידע כיצד לשלוט במערכות המתוחכמות הללו. אבל כמובן שגם אנשים יותר רגועים כמו יאן מסכימים שהם כלים חזקים, שיכולים לעשות הרבה נזק דרך דברים כמו פייק ניוז וכאלה, ובהחלט צריך להזהר לאיזה מערכות אנחנו נותנים להם גישה.
אבל מה שסקרן אותי כשהתחלתי להתעניין בתחום הזה היה דווקא השם שניתן לכל התחום: בינה מלאכותית. חלק גדול מן החוקרים שמובילים את מהפכת ה-AI מדברים בחופשיות על כך שמדובר ב"אינטלגנציה", ב"בינה", ומדגישים את ההתקדמות הטכנולוגית שמאפשרת לתוכנות הללו להיות, לאט לאט, חכמות יותר מבני אדם. בני אדם מפסידים לתוכנות כאלו בשחמט ובמשחק "גו" המורכב ביותר, ואלו רק הדוגמאות המפורסמות יותר של איך בהדרגה האדם נראה כמאבד את מעמדו כיצור החכם ביותר עלי אדמות. בפוסט שקראתי אונליין, נכתב שכשנתנו ל-GPT לענות על שאלות מתוך מבחן IQ, הוא קיבל ציון של 155, שבסקאלה המקובלת זה אומר שהוא נחשב "מחונן ביותר". ומה יהיה בגרסה 5? בגרסה 15?
ועדיין, משהו הפריע לי בזה. אתם אמורים לדעת את זה כבר מהעונה הקודמת, אבל הגדרות של דברים הם משהו שמאד מציק לי כשהם לא ברורות. אז רציתי לדעת - האם באמת המכונות הללו הן "בינה מלאכותית", או שזה הכל סתם תיוג שמשמרים אותו כי הוא מגניב?
מה שגיליתי תוך כדי הקריאה והחשיבה בנושא הוביל אותי לרצות לעשות פודקאסט על העניין. שכן, מסתבר שלשאלה האם מדובר בבינה או לא יש השלכות די רחבות על איך אנחנו ניגשים לשימוש בה ולקידום שלהם בחברה. נניח הררי, באותו מאמר ב-”YNET”, סבור שהכלים הללו הם בעלי אינטלגנציה ממש. "זה עתה נתקלנו בבינה זרה, כאן על כדור הארץ", הוא קובע בנחרצות. "אנחנו לא יודעים הרבה על הבינה הזאת, חוץ מזה שהיא עלולה להרוס את התרבות שלנו". נראה שהוא חושב על הבינה המלאכותית כעל חייזר בעל דרגה טכנולוגית עילאית שנחת כאן על הכדור הקטן שלנו, ואז בהחלט יש הרבה ממה לדאוג. לעומת זאת, אם לא מדובר בבינה, אלא רק שדרוג בעוצמת התוכנות שלנו ותו לא, אז אולי הדברים פחות מדאיגים, ולא יובילו לשידוד מערכות חברתי ואנושי כמו שהוא חושש.
וזה הנושא של העונה שלנו - להעמיק בשאלה החשובה הזו: האם מערכות AI הן באמת מערכות חושבות? ולמה לתשובה לשאלה הזו יש כל כך הרבה השלכות על איך אנחנו תופסים את העתיד של המערכות הללו בעולם שלנו? אנחנו כאן ב"אלישע והזוויות", ולכן אני מחוייב, ולו בלבד מתוקף הצמדות ל"אני מאמין" שלי, לסקור את הנושא הזה מזוויות שונות. ולכן אנחנו נצעד במסלול הסקירה והניתוח שלנו מתוך בחינה של הגישות השונות. אני לא בטוח אם זה יצא בדיוק ככה, אבל מה שאני רוצה לעשות בתור התחלה הוא לבנות דווקא את הקייס של אלו שמצהירים בקול שמדובר באינטלגנציה לכל דבר, כזו שיכולה לנצח את האינטלגנציה האנושית כבר היום, או שזה כבר מעבר לפינה. לאחר שנבסס את הטיעונים שלהם - ויש להם טיעונים מאד משכנעים, יש לומר - אני אציג את הדברים מהזווית ההפוכה, ואתן לכם, המאזינים - לשפוט.
אולי האדם הראשון ששאל את השאלה "האם אפשר לבנות מכונות שיכולות לחשוב" במסגרת אקדמית היה אלן טיורינג, ואם הוא לא היה הראשון, הרי שכנראה שהוא הכי מפורסם. על שמו קרוי "מבחן טיורינג" המפורסם, מבחן שיצא לאור, באופן מפתיע, גם כן ב-1950, באותה שנה של ספרו של אסימוב. המבחן הזה נועד להציע דרך להכריע בשאלה ששאלנו - האם מכונות יכולות לחשוב. אז נראה לי שהמקום הנכון להתחיל בו הוא שם, במוחו הקודח של החוקר המעניין ההוא. על טיורינג, המבחן שלו והמשמעויות שלו מאז ועד היום - על כל אלו בפרק הבא!
Share this post