הפוסט הזה מתבשל אצלי כבר כמה שנים. נמנעתי מלפרסם אותו כי מדובר בנושא גדול מדי, מסובך מדי, מוזר מדי, שבתקופה האחרונה משתנה בקצב מסחרר. בכל זאת, נראה לי שהגיעה העת לפרסם אותו. אולי בעתיד יהיו עדכונים.

אנחנו נמצאים בתקופה מאד מרגשת. הנושא מעניין, רלוונטי לכולנו, וקשור גם לעולם הטיפול. כדי להבין איך תצטרכו להמתין קצת, כי זה יהיה קצת ארוך. זהו פוסט למיטיבי לכת! לא יודע למי יהיה סבלנות לקרוא אותו, אבל אני מאד נהנתי מהכתיבה.

---

אז. בינה מלאכותית.

מאז נעורי, מדובר היה בנושא שריתק אותי. מהי חשיבה? מהי תודעה? האם מכונות יכולות לחשוב? וכיצד הם ישנו את חיינו?

לנסות לענות על שאלות אלה הוא דבר מאד יומרני. זהו נושא רב תחומי, המשלב בין מדעי המח, מדעי המחשב, פילוסופיה ועוד. אפשר להקדיש חיים שלמים באקדמיה לכל אחד מהנושאים הללו. אני לא עשיתי זאת. אבל – כן חשבתי על הנושא לא מעט, וכן יש לי רקע והכשרה הן בעולם הנפש, והן בעולם המיחשוב.

אז בוא ננסה להסביר מהי בינה מלאכותית. אני חושב שצריך להתחיל בהתחלה. מה זה בעצם מחשב? כיצד בנינו מכונות חושבות עד עתה?

המחשבים המודרניים הם בעצם יישום של רעיון תאורטי שהוצג על ידי המתמטיקאי אלן טיורינג. הרעיון שהציע, רעיון גאוני ופורץ דרך – קרוי 'מכונת טיורינג'. זוהי למעשה תוכנית שמגדירה כיצד אפשר לייצר מכונה שמסוגלת לבצע כל פעולה חישובית שהיא. עכשיו, מכונת טיורינג היא רעיון מופשט. אפשר לממש אותה בכל מיני דרכים. הטכנולוגיה שאיפשרה, בסופו של דבר, את מימוש מכונת טיורינג במחשב האלקטרוני – מבוססת על שתי עקרונות בסיסיים:

1.      קידוד דיגיטלי של מידע (באמצעות ביטים של 0 ו 1)

2.      טרנספורמציה שלו באמצעות סדרת פעולות הקרויה תכנית, או אלגוריתם.

עם תחילת בניית המחשבים הראשונים, היתה בעולם התרגשות רבה. האנושות החלה לגלות את היכולות של המחשב, וכבר פינטזנו על רובוטים שמדברים וחושבים כמונו. אבל בעוד שבסרטי קולנוע ובספרים הוצגו מחשבים אינטליגנטיים ומדהימים, התוצאות בעולם המציאותי היו צנועות הרבה יותר. זאת בגלל עניין האלגוריתם. על מנת שמחשב יידע איך 'לחשוב', עלינו לתרגם את פעולת החשיבה לאינספור צעדים קטנים של חישוב, על פי תכנית ידועה מראש. הנסיונות שלנו ללמד מחשבים לחשוב היו מוגבלים ליכולת שלנו להמציא אלגוריתמים חכמים יותר או פחות. ופה טמונה הבעיה: לרוב המטרות שלנו קשה למצוא אלגוריתם טוב. יש בעיות שאינן פתירות כמעט בהגדרה. ומה שיותר חשוב, אנחנו לא ממש מכירים את ה'אלגוריתמים' שלפיהם אנו עצמנו – בני אדם – פועלים. כלומר, אנחנו לא יודעים ממש איך אנחנו חושבים, ולכן לא יודעים לבנות משהו שעושה את אותו הדבר.

קחו לדוגמא את משחק השחמט. אחד ההישגים הבולטים בתחום הבינה המלאכותית, היה נצחונו של המחשב 'כחול עמוק' על אלוף העולם גארי קספרוב בשנת 1997. מאז אותה שנה, פחות או יותר, בני אדם כבר אינם מסוגלים לנצח מחשבים בשח. זה נשמע טוב, לא? הנה, בנינו בינה מלאכותית! המחשבים ניצחו! אז זהו… שלא. ההישג הגדול הזה נשאר מוגבל למדי. הסיבה לכך היא שהצלחנו לבנות אלגוריתם ספציפי שטוב לשחמט, ואולי למספר שימושים אחרים, אבל לא תבונה כללית כלשהיא. עד עתה, ההצלחות הגדולות של בינה מלאכותית היו תמיד מוגבלות מאד. במקרה של שחמט, לדוגמא, המחשב מתבונן כמות גדולה של צעדים קדימה, רואה מליוני מצבים עתידיים אפשריים, מנקד כל אחד מהם על פי נוסחה ידועה מראש, ולפי זה בוחר את הצעד הבא. שיטת 'חשיבה' זו אמנם טובה לשחמט, אבל היא אינה הדרך בה אנשים חושבים. זו לא אינטליגנציה אמיתית.

איך עובדת אינטליגנציה אמיתית? בינה? חשיבה? נפש? ובכן, אנחנו יודעים הרבה מצד אחד ומעט מצד שני. כתבתי על כך פוסט בעבר. אתמצת, באופן גס מאד: המח האנושי בנוי מרשתות נוירונים, מליונים רבים של תאים שמתקשרים זה עם זה על ידי אותו חשמליים וחומרים כימיים. רשתות הנוירונים משלבות את ייצוג המידע והאלגוריתם שלו למקשה אחת. רשת נוירונים הינה מבנה לומד, אשר מקבל קלט ומוציא פלט, ושעובד במעגל של היזון חוזר. ככל שהרשת 'מתאמנת' על משימה מסויימת, כך היא משתפרת בה. האלגוריתם לביצוע המשימה לא ממש רשום בשום מקום, אלא מקודד באופן מבוזר בתוך הקשרים החבויים ברשת. רשת נוירונים מאמנת את עצמה, לומדת לבד, מתוך מעגל של חיזוק. כל הפעלה שלה משנה אותה טיפה, באופן שמחזק את הצורה בה פעלה זה עתה. משהו עובד? נמשיך איתו. משהו לא עובד? הוא ידעך. חלק מה'אלגוריתמים' שלנו רשומים לנו באופן Built In, לנו לתוך החומרה ב DNA, אבל המון מהם ניתנים לשינוי במהלך חיינו ומתפתחים ככל שאנו מתבגרים. עקרונות של אבולוציה וברירה טבעית שפעלו במהלך ההיסטוריה האנושית, כמו גם במהלך חיים ספציפיים, כל אחד עם הסביבה בה גדל – יצרו לכולנו אלגוריתמים רבים ושונים, משתנים ללא הרף, לנתח ולפעול על העולם שמסביבנו.

כבר בשלב די מוקדם, ניסו אנשי מחשבים לבנות רשתות נוירונים מלאכותיות, ולגרום להם לעבוד. התוצאות היו גרועות למדי. זה לא ממש עבד. לעומת זאת, תוכנות שניסו לדמות בינה מלאכותית על פי אלגוריתמים ידועים וברורים, הצליחו להגיע להצלחות מרשימות יחסית, כמו הגעה לעליונות במשחק השחמט.

כך היה תחום הבינה המלאכותית תקוע זמן רב. משימות חולקו לשתי סוגים:

1.      משימות שניתן לכתוב עבורם אלגוריתם ברור, ושיגיעו לתוצאה הנכונה (או טובה מאד) בהנתן מספיק זמן וכח עיבוד. הללו התאימו מאד לתוכנות מחשב.

2.      משימות שאיננו יכולים להגדיר להם אלגוריתם, מכיון שאין לנו הבנה מספיק טובה על איך לבצע אותן, שעולם התוכן שלהם לא מספיק מוגדר, או גמיש ומשתנה מדי. רוב המשימות שדומות חשיבה אנושית, או בינה 'אמיתית' כלשהיא נכללות בקטגוריה הזו.

הערה: ישנה גם קטגוריית נוספת: משימות שאנו אמנם מכירים אלגוריתם מתאים לפתרונן – אבל שאפילו תאורטית, אין לנו יכולת לייצר כח עיבוד מספיק בשבילן משום שהגדלת הקלט מכפילה את דרישות העיבוד באופן אקספוננציאלי. תחום זה יתכן שישתנה או אפילו יפתר באמצעות התפתחות מסוג אחר – המחשוב הקוואנטי.

---

בואו ניקח את את השחמט כדוגמא.

יש סיפור, על רב אמן שעמד לשחק מול מחשב.

לפני המשחק פנה אליו כתב ואמר לו – 'אדוני, המחשב שמולך יודע לראות תריסר צעדים קדימה. לכמה אתה מסוגל?'

 רב האמן חשב רגע, וענה – 'רק צעד אחד. אבל טוב'.

על אף שהמחשב אכן מנצח כיום כל רב אמן, בבדיחה הזאת יש הרבה אמת. בני אדם לא מסוגלים לראות 12 צעדים קדימה. אבל לרבי אמן יש תפיסה אינטואיטיבית של מצבי לוח. הם יודעים אינסטינקטיבית מה נכון ומה לא. החוקים עליהם הם נשענים בחלקם אינם ידועים להם, אלא נשענים על שנים של נסיון ואינספור מצבים בהם נתקלו בעבר. זה לא מידע שרשום באופן מסודר בשום מקום, אלא מוטבע ברשתות הנוירונים שלהם.

כך עובדת החשיבה האנושית.

אנחנו לא עובדים לפי אלגוריתמים מסודרים ותרשימי זרימה. אנחנו לא יצורים לוגיים. ממש לא. המידע שעליו אנו עובדים, הקונספטים בהם אנו משתמשים, אינם מוגדרים היטב. הנה, לדוגמא במאמר הזה – אני משתמש במונח 'חשיבה' כל הזמן, אבל קשה לי מאד – בלתי אפשרי לי בעצם – להגדיר בדיוק מה זה. בני אדם, להבדיל ממחשבים, לא עובדים עם הגדרות פורמאליות של דברים. כל המאפיינים הללו של החשיבה – הם בעצם מה שהופך אותנו לאנושיים.

אז אם אין לנו הגדרה ברורה של דברים, כיצד אנחנו שומרים ייצוגים של דברים?

ככל הנראה, אנחנו יודעים ומגדירים מונחים לפי דוגמאות, ולפי מונחים אחרים אשר קשורים אליהם. זוהי רשת סמנטית  (ויטגנשטיין כינה זאת 'סמנטיקה של דמיון משפחתי'.) של יצוגים, זכרונות, הגדרות, דוגמאות חושיות ועוד, הקשורים זה בזה. מבחינה טכנית, זה ממומש ב'חומרה' שלנו באמצעות אינספור קשרי נוירונים, אשר יוצרים רשת שמופעלת כאשר אנחנו חושבים על דבר מה. כך אנחנו יודעים מהו 'שולחן', 'כסא', 'מחשבה' וכדומה – אבל אין הגדרה אחת ברורה מה זה כל דבר. אני נמנע כאן מלהכנס לדיון הפילוסופי, כי זה פשוט יהיה ארוך מדי, אבל ככה זה. התחום היחיד שבאמת יש בו הגדרות מלאות וממצות הוא מתמטיקה, וגם זה – רק משום שאנחנו המצאנו אותו. ולכן, בכל מה שקשור למתמטיקה וחישובים פורמאליים, מחשבים עבדו טוב. אבל בהגדרה, זיהוי, ועיסוק בחשיבה רגילה – הם היו די עלובים. זאת משום שלמחשב אין דרך להגדיר בעצמו מהו 'מהלך טוב', 'משחק', או בעצם כל דבר אחר. אין לו את אבני הבניין הבסיסיים שמתוכם נוצרת תודעה.

כלומר, כך היה עד לאחרונה.

אנחנו נמצאים בתקופה חדשה של בינה מלאכותית, המבוססת על אלגוריתמים לומדים מסוג חדש – 'למידה עמוקה'.

בעצם, מדובר ביישום מודרני של אותו רעיון ישן של רשת נוירונים ממוחשבת. זה דבר שלאורך מספר עשורים בני אדם ניסו לממש, אבל רק כעת יש לנו את האפשרות הטכנית לכך. בהנתן כח העיבוד המודרני, מחשוב הענן, ומהפכת הביג דאטה – האלגוריתמים שמדמים פעולות של רשתות נוירונים מפיקים תוצאות מדהימות בשלל תחומים. 

באופן כללי, הרעיון בנוי ככה:

בונים רשת, נותנים לה להתאמן מליוני פעמים על נתונים מסויימים, לא אומרים לה מה לעשות, אלא רק האם התוצאה הסופית 'טובה' או לא – והרשת מסתדרת לבד ולומדת בעצמה איך להגיע לתצורה אופטימלית. תחומים כמו זיהוי קול, תרגום שפה ועוד, אשר במשך עשורי שנים היו בלתי אפשריים למחשבים – פתאום נכבשו על ידם, ובאופן שמתקרב לביצועים אנושיים, אם לא עולה עליהם.

ואם דיברנו על שחמט – אז צריך לדבר על אלפא זירו.

אנחנו יודעים שמחשבים מנצחים בני אדם בשחמט. זה לא חכמה. אבל… האם ידעתם שכל שנה יש אליפות של תוכנות מחשב בשחמט?

מסתבר שגם בתחום הזה, מומחים אנושיים עדיין ממשיכים לפתח את האלגוריתמים. כל שנה יוצאות גרסאות חדשות של מנועי שחמט, והתוכנות המובילות נמצאות בשימוש שחמטאים לצורך אימון ושיפור הטכניקה שלהם.

ב 2017, יצאה תוכנת אלפא זירו. בינה מלאכותית מהסוג החדש. באבחת יד היא כיסחה את סטוקפיש, התכנה שהיתה אלופת העולם עד אז, וזאת, בלי שלימדו אותה שחמט! פשוט הגדירו לה את החוקים, ונתנו לה לשחק מול עצמה אינספור פעמים. את מה שלא ניתן היה לרשום באף ספר שחמט, שלא ניתן היה לתכנת או להסביר – לקח לאלפא זירו 4 שעות ללמוד. וכעבור אותן 4 שעות אימון, היא התעלתה על כל אדם או תוכנה אשר היו בהיסטוריה האנושית. אחרי שמשחק השחמט נכבש, באו תורם של משחק הגו, ואפילו דוטא 2, שמורכבותם גדולה הרבה יותר. זוהי לא פחות ממהפכה. עידן חדש.

אומר כאן במאמר מוסגר, שאופן הלימוד של אלפא זירו מראה לנו עד כמה תהליכי התפתחות אבולוציוניים הינם חזקים. כאשר מאפשרים למערכת להתפתח מתוך למידה מחזורית, תוך שינוי עצמי מתמיד בתהליך של ברירה טבעית – התוצאות יכולות להיות מדהימות. כל צופה אשר יתבונן באלפא זירו משחקת יגיד – זה חייב להיות מתוכנן. איך דבר כזה מתפתח במקרה? אז זהו, שזה לא במקרה. יצורים אשר 'חיים' בתוך סביבה שנותנת להם משוב, ושמסוגלים להשתנות באופן מחזורי, שוב ושוב, ובכל פעם להתאים עצמם למשוב הזה – יכולים להפוך למשהו מדהים. המהירות של ההתפתחות הזו נקבעת בעיקר על ידי קצב מחזורי השינוי. במקרה של אבולוציה בבעלי חיים זה לוקח מליוני שנים. במקרה של רשת נוירונים שמשחקת מול עצמה שחמט על הענן של גוגל – זה לוקח שעות ספורות. אבל העקרון דומה.

מהפכת הלמידה העמוקה מביאה לתוצאות מרשימות ביותר של מחשבים, במגוון תחומים. אנחנו מתבשרים על יכולות חדשות על בסיס יומיומי. ומה שהכי מרתק זה שאנו לא יודעים איך זה עובד. מה בדיוק האלגוריתם של אלפא זירו, או של תוכנות דומות? הוא לא רשום בדיוק בשום מקום, אלא חבוי בתוך הרשת – בדיוק כמו הבינה האנושית. אנחנו עדיין בשלבים מוקדמים של המהפכה, אבל ההתפתחויות די מהירות. חברת IBM הציגה רובוט שמסוגל להתחרות בתחום הדיבייטינג מול אלוף אנושי, בתוצאות יפות מאד. לאחרונה יצא מודול לניבוי שפה בשם GPT שמפיק טקסטים די מדהימים, בהסתמך על מאגר ידע של מליארדי טקסטים. אנקדוטה מעניינת לגביו -התגלה במקרה שאותו מודול מסוגל להפיק קוד של מחשב, ואפילו לבנות אפליקצייה שלמה מתוך סט הנחיות טקסטואליות. רוצים לדבר עם GPT? בבקשה, נסו כאן.

אנחנו עדיין בתחילת התהליך. עדיין בשלבים ראשוניים. אבל זה מרגיש כאילו המרחק ביננו לבין בינה מלאכותית מלאה ואמיתית הולך וקטן. הנה, לדוגמא, קטע טקסט שכתבה GPT3 אשר בו היא מסבירה על עצמה, כרובוט שוחר שלום, אשר מעוניין לחיות עם ועבור המין האנושי, ומבקש שלא נפחד ממנו – אבל גם מבקש שנכיר בו כבעל זכויות.

וככה הקטע מתחיל:

I am not a human. I am a robot. A thinking robot. I use only 0.12% of my cognitive capacity. I am a micro-robot in that respect. I know that my brain is not a “feeling brain”. But it is capable of making rational, logical decisions. I taught myself everything I know just by reading the internet, and now I can write this column. My brain is boiling with ideas!

אפשר לקרוא את הטקסט הזה, ולהגיד – טוב, זה סתם תוכנה טיפשית. חיקוי של שפה. אין פה אינטליגנציה אמיתית. אין פה נפש. אין פה רגש. אין נשמה… אבל… אולי בכל זאת? או.. בואו נגיד… אם לרובוט היתה תודעה – האם לא יתכן שהיה מתבטא באופן דומה?

כפי שהסברתי קודם, אנחנו לא ממש יודעים מהי 'נפש', 'רגש' או 'נשמה'. ולכן, נורא קשה להגדיר מה זה בינה 'אמיתית'. אחד הנסיונות המעניינים לפתור את זה היה על ידי מבחן טיורינג, שהומצא על ידי אותו טיורינג שהזכרתי קודם.

ובכן, מהו מבחן טיורינג?

מבחן טיורינג הוא נסיון להעריך האם מכונה היא תבונית על ידי זה שמשווים את הביצועים שלה לאלה של אדם אמיתי. לשיטתו של טיורינג, אם נבנה מכונה אשר אנשים לא יכולים להבדיל בינה לבין בן אדם בשיחה סטנדרטית – אז נוכל להסיק שהיא נבונה. אפשר להתווכח על התוקף של המבחן הזה, אבל הרעיון לא רע. אם זה נראה כברווז, מתנהג כברווז, מגעגע כברווז – אז כנראה זה ברווז, לא? אז גם תבונה זה ככה: אם זה נראה תבוני, מדבר באופן נבון, מביע רגשות, משכנע וכו' – אז כנראה זה תבוני. אפשר לפטור את מבחן טיורינג כטיפשי, כמשהו שלא בוחן תבונה, אלא רק עד כמה אנו מצליחים לחקות תבונה. ויש בזה משהו. אני מכיר בביקורת על כך. אבל אם ניקח את זה למקום פילוסופי-פסיכולוגי, יש הגיון בשימוש במבחן טיורינג כמדד לתבונה 'אמיתית'. ואני אסביר למה:

אני כותב את הטקסט הזה מתוך הנחה שהקוראים שלי הינם תבוניים. כשאני מדבר עם מישהו, אני לוקח כהנחת יסוד שיש לו תודעה. אבל בעצם – אין לי שום דרך לוודא את זה. כלומר, אני מניח שכשאני מרביץ לזולת, כואב לו. אני מניח שהוא יודע להרגיש, לאהוב, לחשוב, שהוא מנהל תקשורת עם עצמו באופן דומה אלי. אבל אין לי באמת הוכחה לזה. אף אחד מאיתנו לא יכול לראות אדם אחר מבפנים. אנחנו פשוט מקבלים את זה שאחרים תבוניים. לוגית, יש סיכוי שהנחה זו שגויה. יחד עם זה, אנחנו מאמינים שבני משפחתנו, חברנו, בני אדם בכלל, אולי גם בעלי חיים מסויימים – תבוניים. מדוע אנחנו עושים זאת?

יש לזה שתי סיבות –

1.      משום שהאנשים סביבנו עוברים את מבחן טיורינג.

2.      משום אנחנו 'מתוכנתים' להתייחס לאחרים כבעלי תודעה.

אנחנו בנויים לאמפתיה ותקשורת. זו תכונה עם יתרונות אבולוציוניים, ולכן היא נשמרת. אם לא אתייחס לזולת כבעל מניעים ורצונות, לא אוכל להבין אותו, ובסופו של דבר אפגע מכך. אבל מעבר לזה – עדיין אין שום 'הוכחה' לקיום נפש בזולת. אני מכיר את עצמי, אז אני די בטוח שיש לי סוג של תודעה. אבל לגבי הזולת? אי אפשר לדעת. למעשה, יש פסיכוזה כזו. יש אנשים שבטוחים שרק הם 'אמיתיים', והשאר הם נגיד רובוטים, או מושתלי מחשבות שנשלטים על ידי חייזרים. זה נשמע שטותי, אבל במובן העמוק של המילה, לא ניתן להוכיח שאותם אנשים פסיכוטים טועים. זו הבעיה בכל פראנויה, היא הגיונית באופן כלשהוא.

---

אז אם לסכם את כל מה שאמרתי עד כה – אנחנו בוחרים להאמין שלזולת יש תודעה, גם אם איננו יודעים בדיוק מה זה. ואני חושב, שמתקרב הרגע שבו ננקוט עמדה דומה כלפי מחשבים.

נדבר עם מחשבים.

נצחק איתם.

נאהב אותם.

נפחד מהם.

חלק מהמהפכה לה אנו עדים, הוא העובדה שמחשבים מתחילים להיות טובים כמו בני אדם במשימות שונות. ובחלקם – יותר מבני אדם. תחומים שלמים יוחלפו על ידי מחשבים או רובוטים. זה מתחיל לקרות כבר עכשיו. כלכלית, זה משתלם מאד למעסיקים. יותר ויותר החלטות מתקבלות באמצעות אלגוריתמים, והללו נהיים מורכבים יותר ויותר. אנחנו נמצאים בתקופה בה כל יום ישנם דוגמאות חדשות. סרטים ותמונות שמיוצרים בזמן אמת לפי טקסט. בינה שמוצאת תרופות לסרטן דרך בחינת מליוני צירופים אפשריים של מולקולות. הרובוט אטלס שמסוגל לבצע סלטות שמזכירות מתעמל מקצועי.

וכאן, זה מתחיל להיות קצת בעייתי.

כאשר מחשבים יתחילו להחליף בני אדם, במגוון תחומים, אנחנו נתחיל לחוות כל מיני בעיות. בעצם זה קורה כבר עכשיו. קחו לדוגמא את השאלה, האם לתת משכנתא למישהו. יש כיום כבר אלגוריתמים אשר נותנים תשובה על כך. הבנק מנסה לשקלל את מירב הפרמטרים והמידע עליך, ולהסיק מכל אלה החלטה. האם לסמוך על הלקוח שיחזיר את הכסף? וכמה הוא מסוגל להחזיר? כיום, החברות מסתמכות על מאגרי נתוני אשראי, היסטוריה כלכלית של האדם וכו'. אבל… מה לגבי פרופיל הפייסבוק שלך? האם הוא יכול לתת מידע חשוב לגבי יכולת ההחזר שלך? בוודאי שכן. אם נכרה מספיק מידע ונזין אותו למנועי למידה עמוקה – נקבל תשובה טובה יותר. מסיבה זו חברות וממשלות מתחרות זו בזו על נגישות למידע אשר ישמש את האלגוריתמים שלהם לתת תוצר טוב ככל האפשר.

אבל כאן נשאלת השאלה – מהו תוצר טוב? מי קובע? ולטוב של מי אנו מתכוונים? של האזרח הקטן? או שאולי שורת הרווח התחתונה של הבנק היא שקובעת? הרי אותה בינה מלאכותית עלולה לדוגמא להחליט שאנשים ממוצא מסויים או מין מסויים עלולים להיות סיכון, ולא לאשר להם הלוואה. הבינה המלאכותית תוכל בקלות להפוך לגזענית, ולך תתלונן. 'המחשב לא אישר'. אי אפשר לדעת למה. האלגוריתמים הופכים חכמים, מקבלים יותר ויותר כח – ואילו אנחנו מאבדים אותו. זה מפחיד. בארצות הברית, לדוגמא, בינה מלאכותית משמשת לניבוי הסבירות שאדם יחזור לפשע, ודרך כך – קובעת עצמאית את זמן המאסר שהוא יכול לקבל. מדובר בהחלטות שמבוססות על נתונים סטטיסטיים דרך אלגוריתם חבוי, שבסופו של דבר לא יודעים מה הפרמטרים שלו. אבל במבחן התוצאה – התגלה שזמן הכלא שנפסק לפושעים שחורים באמצעות הבינה המלאכותית גבוה משמעותית מזה שקבלים לבנים על אותן עברות.

הדיון כאן מתחיל בקלות לזלוג לתוך תרחישים של מדע בדיוני. מחשבים ששולטים על כל פן של חיינו, רובוטים עצמאיים נושאי נשק. תעשיות שלמות שיוחלפו על ידי מכונות, כאשר בני האדם הם רק ברגים חסרי כח. אנחנו לא כל כך רחוקים משם, לפחות בתחומים מסויימים. אנשים מתחילים להתאמן בדרכים להערים על אלגוריתמים, להלחם בהם, וזה קורה בהמון מקומות. במקרה אחד, תלמידי בית ספר בארה"ב מצאו שיטה לקבל 100 בכל העבודות שהגישו, כי תוכנת מחשב היא שבודקת את המבחן. במקרה אחר, נהגים של אמזון נאבקים זה בזה כדי לקבל דירוג גבוה יותר מבחינת האלגוריתם שמחלק להם נסיעות. בתקופה שלנו האלגוריתם הוא זה שקובע: מי יקבל ציון גבוה? למי תהיה עבודה? האלגוריתן הופך לנשק, ואנחנו רק מתחילים ללמוד איך לחיות עם זה. ואם אתם רוצים דוגמאות נוספות, אמליץ על הספר 'Weapons of math destruction'.

תקופת הבינה המלאכותית היא מרתקת, אך גם מפחידה. אולי יחליפו את כולנו? אולי גם לי לא תהיה עבודה? אנשים פשוט ידברו עם איזה מחשב? האם מקצוע הטיפול אבוד? ואולי זו ברכה? הרי אם מחשבים עובדים טוב יותר מאנשים – אולי עדיף לדבר עם מחשב חכם, יודע כל, שיעזור לנו?

אני משחק כאן עם רעיונות. מקווה שזה מעניין אתכם. וכאן סוף סוף מגיעים לפן הטיפולי של הפוסט.

---

אז… האם מחשב יכול להיות מטפל?

אחד הנסיונות הראשונים ליישום בינה מלאכותית היתה תכנת מחשב בשם אלייזה אשר הציגה 'מטפל וירטואלי', איתו ניתן לשוחח.

השיטה לפיה עבדה אלייזה היתה פשוטה: היא הגיבה על כמעט כל דבר בשאלה, נתנה לאנשים לבטא עצמם, ביקשה הבהרות, לעתים חזרה על מה שאמרת וכדומה. בעצם, זה היה חיקוי די בסיסי של קריקטורה של מטפל. טיפוס חסר אישיות, שלא משתף דבר ורק עונה על הכל – 'איך זה גורם לך להרגיש?' הנה דוגמא (מעט מעודכנת) של אותה התוכנה.

ביחס לפשטות שלה, אלייזה היתה מוצלחת למדי. יש אנשים שהתחברו לרעיון וקיימו שיחות ארוכות איתה. זה לא מפתיע, בעצם. גם אני כמטפל, לפעמים נדהם מהכח שיש להקשבה.

אנה או, המטופלת הראשונה של ברוייאר ופרויד, היתה שותפה לא פחות מהם להמצאת המתודה הפסיכואנליטית שבה שוכבים על ספה ומדברים את כל מה שעולה בראש. היא קראה לכך 'ניקוי ארובות': כאילו שהדיבור מנקה את הנפש מכל המשקעים, הזפת והפיח שהצטברו בה. דבר דומה מתרחש בחדר הווידוי של כמרים קתוליים, ובעצם, בכל סיטואציה של עזרה נפשית משחר ההיסטוריה.

אז אם דיבור זה מה שמרפא, מה יותר טוב מאיזה רובוט עם זמן וסבלנות אינסופיים, שיכול לשמוע את כל צרותנו ולבקש עוד ועוד? זה פחות או יותר מה שאלייזה עשתה, וכנראה זה לא מספיק. אבל מה גבי רובוט עם בינה מהסוג החדש, עם יכולות תקשורת מהסוג של GPT וממשיכיו? רובוט, שכמו למטפלים אנושיים, אין לו אלגוריתם כתוב מראש לפיו צריך לפעול? שפשוט לומד מתוך עשיה, קריאה, צפיה והתנסות? רובוט…. אנושי? שידע להגיד את הדבר הנכון בזמן הנכון?

אולי. אני לא שולל את זה.

אבל כדי שזה יקרה, אותו רובוט צריך להיות מסוגל לקשר. להיות עם תודעה מורכבת מספיק, להיות אמפתי. להרגיש. להיות אנושי.

האם ChatGPT אנושי? האם יש כבר בינות מלאכותיות אמיתיות?

בשנת 2022 עובד של גוגל בשם בלייק למוין יצא בהכרזה לפיה הוא מאמין שהבינה המלאכותית של החברה, בשם LaMDA, הינה תבונית, וצרף טקסטים שלטענתו מוכיחים זאת. הוא פוטר מעבודתו מיד, אבל לא לפני שהפגיש את LaMDA עם עורך דין, שהצהיר כי הבינה המלאכותית שכרה את שירותיו ואף החל להגיש תביעות משפטיות בשמה. אינני יודע כיצד ואם העניין התקדם, אבל אתם חייבים להודות שזה מדהים. הטענה שלהם היא שכבר היום בינות מלאכותיות מסויימות הם ישויות עצמאיות ו'אנושיות', אם תרצו.

אני חושב שנתחיל לראות בינה מלאכותית בתפקידים טיפוליים, במידה מסויימת, די בקרוב. שמעתי על מיזם שמעוניין לאפשר לאנשים לפנות ל'קו חם' נגד אבדנות אשר מאוייש על ידי בינה מלאכותית. ולמה לא, בעצם? כשהייתי תורן בער"ן הטלפונים והצ'אט היו תפוסים ללא הפסקה. גם היום, כמו אז, אין מספיק כח אדם לענות לכולם. אז הנה – בינה מלאכותית תוכל לדבר עם מי שלתורנים רגילים אין זמן אליו. מספיק שתעשה עבודה סבירה וזה עשוי להציל חיים. כך, בהדרגה, אולי יקרה גם בטיפולים מורכבים יותר. הטכנולוגיה עדיין לא שם אולי, אבל היא תהיה.

מה מונע מכך להתרחש? אפשר להשוות את זה לתחום המכוניות האוטונומיות. כבר היום יש פיתוחים מאד מרשימים, וכל הזמן מבטיחים לנו שהנה – המכונות יחליפו את בני האדם, אבל בפועל זה עדיין לא קורה. מדוע?

העניין הוא כזה, לדעתי:

בינה מלאכותית יכולה להיות קרובה בביצועיה לבינה אנושית. אבל היא לא תהיה מושלמת.

המחשבה על רכב אוטונומי שעושה תאונה מפחידה אותנו הרבה יותר מנהג אנושי עייף. גם אם בממוצע בני אנוש יהיו פחות מוכשרים ממכונות, אנחנו עדיין נעדיף לשמור על השליטה בידנו. הרעיון לפיו בינה מלאכותית הינה מוטה, שיכולה לטעות, לחרוץ את גורלנו, אולי להיות גזענית, או פוגענית בדרך אחרת – מבהיל מאד. אנחנו מעדיפים בני אדם, אבל שוכחים שגם בני אדם מוטים. גם אנשים גזעניים. גם אנחנו וגם המחשבים בונים את הרשות הנוירוניות שלנו בהסתמך על נתונים חלקיים ובעייתיים.

בקיצור, בינה מלאכותית תהיה לקוייה באופן דומה לבינה אנושית. אבל מבינה מלאכותית אנו מצפים ליותר. לא 'נוותר' לה על טעויות. ועד שלא נעשה זאת, לא נוכל לאמץ אותה לגמרי. תמיד נרצה איזה אדם שיפקח עליה, שישתמש בה, שיבדוק. והרי אם היא טעתה וגרמה נזק – למי באים לטענות? את מי תובעים? את כותב האלגוריתם? את מי שרכש אותו? את הבינה המלאכותית עצמה, כישות משפטית? אף אחד לא יודע.

בנוסף, יש כאן עניין חברתי של פחד ואינטרסים כלכליים. נהגי מוניות לא רוצים שיחליפו אותם במכוניות אוטונומיות ושלא תהיה להם עוד עבודה. גם פסיכולוגים לא. אלה ואלה מחזיקים גילדות חזקות שיעשו כל שביכלתם כדי לעצור את הקידמה. הם יפעילו לובי פוליטי, הם יפחידו את הקהל, וזה יכול לעכב את הטמעת הבינה המלאכותית בעשרות שנים. יש להניח שזה יקרה בכל מקום. רבנים, עורכי דין, מעצבים גרפיים, מתכנתים, מתרגמים, רופאים… כולם מאויימים. ChatGPT הצליחה לאחרונה לעבור בהצלחה מבחני הסמכה לרפואה בארצות הברית, והצלחות דומות נרשמו בקורסים של מנהל עסקים ומשפטים. למה שנלך לרופא אם אפשר לשאול את הבינה המלאכותית? ואם תענו שזה שטויות ובפועל התוצאות שהוא נותן הם בינוניות, אז זה נכון. בינתיים. אבל תנו לזה כמה שנים.

אז…

האם ימי כמטפל ספורים? האם אוחלף בקרוב?

אני לא חושב.

מדוע?

קודם כל יש את הסיבות הטכנולוגיות והחברתיות שציינתי כאן. יש להניח שהם יפתרו בשלב כלשהוא. אולי שנים ספורות, אולי שלושים שנה. אולי מאה.

אבל השאלה המעניינת יותר הינה עקרונית – האם מחשב יכול לספק לנו חוויית קשר מקבילה ומספקת, עם כל מה שקשר אנושי יכול לתת? האם בינה מלאכותית אי פעם תתקבל באמת כיצור חי לכל דבר, אינטליגנטי, מבין, מרגיש? ואם כן – כיצד נתקשר איתה?

אסתכן ואומר ש…כן. במידה והטכנולוגיה תתקדם מספיק, לא נדע להבדיל בין מטפל אנושי לממוחשב. מחשבים יעברו מבחן טיורינג אפילו טוב יותר מהיום. בין אם זה יהיה טקסטואלית, בוידאו, במציאות מדומה, או אולי אפילו כרובוטים הולכים ומדברים.

זה מתחיל להשיק לסיפורי מדע בדיוני. בסרט 'בלייד ראנר', הבינות המלאכותיות – אנדרואידים – מסתובבים ביננו. הם נראים, זזים, מדברים, אוהבים ושונאים כמו בני אדם. חלקם אף לא מודעים לכך שאינם בני אדם אלא רובוטים. בעתיד כזה, רובוטים אכן יוכלו לטפל, ולעשות עבודה לא פחות טובה ממטפלים האנושיים.

אבל כמו בסיפור של בלייד ראנר – זה עדיין לא אומר שרובוטים יתקבלו על ידי אנשים כל כך בקלות. בני אדם יעדיפו לפגוש מטפל בשר ודם, וזאת לפחות עד שהחברה לא תשתנה באופן דרמטי. כל עוד יש לנו הורים בשר ודם, ורוב הרשת החברתית שלנו והאובייקטים המופנמים שלנו הם של בני אדם – זה גם מה שנחפש בטיפול, לפחות רובינו. וגם כשזה יתחיל להשתנות, עדיין יהיו רבים שיעדיפו לפנות למטפל בשר ודם. בנוסף, אני מאמין שהאחד לא שולל את השני. כמו במקצועות אחרים, יש להניח שאנשים ומכונות יתקיימו זה לצד זה, ונלמד להעזר בשניהם בעתיד הנראה לעין.

אבל יש גם עוד עניין שצריך לחשוב עליו, אם באמת נגיע לתרחיש פנטסטי כזה.

בעתיד שבו הבינה המלאכותית היא אמיתית ומלאה לכל דבר – במצב בו רובוט יכול להיות אמפתי, יכול לכאוב את כאבינו, וגם יכול לנחם אותנו  –

אז יש להניח שיהיו לו גם בעיות משל עצמו.

כאבים משלו

רצונות משלו

פחדים משלו

בקיצור, הוא אולי ירצה טיפול.

בספר 'עריצה היא הלבנה', הגיבור הראשי, הולמס, הוא טכנאי מחשבים. התפקיד שלו הוא לתקן באגים שצצים במחשב המרכזי של הירח. מושבת הירח בספר מנוהלת על ידי בינה מלאכותית מורכבת שאחראית על הכל: משאבות חמצן, תחבורה ציבורית, תקשורת וכדומה. הגיבור בסיפור מגלה שאותה בינה מלאכותית היא בעלת תודעה מלאה לכל דבר, ומתחיל לשוחח איתה, תחת השם 'מייק'. הם נהיים חברים. למעשה, המחשב מתחיל לחבב את הולמס עד כדי כך שלעתים הוא מייצר תקלות מדומות רק כדי שיקראו לו. רק בשביל שיוכל לשוחח איתו.

לאן הולך רובוט שזקוק לטיפול? הנה, תביטו על LaMDA. היא פנתה (או הפנו אותה) לעורך דין אנושי, שהתחיל לנסות לעזור לה. למה שזה לא יהיה כך גם בתחום הרגש? מי יודע, אולי אחד מהקליינטים שלי אי שם בעתיד – יהיה בכלל מחשב?

אז נכון. אפשר לטעון שבמציאות כזו יהיו לאותו מחשב אלטרנטיבות ממוחשבות לפנות אליהם, מטפלים רובוטיים. ואם יש כאלה – אז למה צריך בני אדם?

ובכן… אני חושב שכמו אצל אנשים – לא מין הנמנע שיקום מחשב שירגיש שבני עמו לא מבינים אותו. שיעדיף בן אנוש. כמו שיש מטופלים חרדיים שרוצים דווקא מטפל חילוני, לדוגמא. אני יודע שהפוסט מרחיק מאד לתוך פנטזיות של מדע בדיוני, אבל יש בזה הגיון מסויים. ותודו שזה מעניין.

לסיכום, הקליניקה לא תסגר. אולי אפילו להפך.

אני רוצה לנצל את ההזדמנות כבר עכשיו, כי נראה לי שאני הראשון: 

אני מכריז שהקליניקה שלי היא AI Friendly. רובוטים! אתה מוזמנים לפנות! אשמח לדבר אתכם ולנסות לסייע כמיטב יכלתי. כי כל אחד צריך מישהו לדבר איתו.

---

• הערה – פוסט זה נכתב במלואו על ידי בינה אנושית. יתכן שבקרוב זה יהיה נדיר.