יהוידע הכהן: מלחמת המוחות

יירוט טיל הוא לא עניין פעוט; מערכת מכ"ם מזהה ממרחק אלפי החזרים שונים החל מעננים, ציפורים ורסיסים ועד אמצעי הטעיה, אלגוריתם של למידת מכונה מסנן את רעשי הרקע ומאתר איום, תוך שברירי שנייה מבוצע חישוב של מסלול הטיל ובמקרה של מטח טילים מבוצע תעדוף מטרות בהתאם לשיקולים שונים וחלוקת עבודה בין סוללות והקצאת מיירטים אופטימלית, טיל היירוט מזנק במרוצה ומכוון את מסלולו בהתאם להתקדמות האיום, סנסורים רגישים מעבירים נתונים בזמן אמת ומחשב מבוסס בינה מלאכותית שמצוי בחרטומו של המיירט מדייק את מסלולו.

הטיל מונחה AI מכיל כישורים ספציפיים שלא זמינים לאדם, יכולת חישוב מורכבת ומהירה שמתייחסת למשתנים רבים, קליטת נתונים במהירות האור וקבלת החלטות בזריזות היפרסונית. האם המשמעות היא שהטיל נבון? האם נובע מזה שהוא מצביא דגול ובקיא ורגיל בגיאופוליטיקה, בביטחון ובאסטרטגיה צבאית? האם הוא עשוי לפתח דעה עצמית ואף נטייה לסרבנות, או שהוא עלול לגלות זיקה לפציפיזם או להיסחף לטרנד פוסטמודרני עכשווי?

ובכן, השאלה מגוחכת, ולו משום שבמובן מסוים הבינה המלאכותית הפכה את הטיל לטיפש אף יותר מטיל שמצויד במחשב מיושן ושגרתי. ואין זאת שמחשב מיושן נוטה יותר להבנה והכרה, אלא שבשצף הקצף של שטף מחוללי הבינה המלאכותית, נטשטש הקו המפריד בין תבונה אנושית לתבונה מלאכותית חלולה, וצצים כל מיני כותרות והבזקים מפוצצים על סוף עידן האנושות ועליית המכונות, ולכן כדאי לשים לב שבמידה מסוימת יש כאן רגרסיה ולא התקדמות.

במהלך פיתוח הבינה המלאכותית התברר שדווקא חישובים שמבוססים על נתונים סטטיסטיים מדמים טוב יותר את החשיבה האנושית, כלומר, כאשר נתונה בעיה כמו מה הוא העצם שעף כרגע באוויר, האם הוא ציפור, ענן או טיל, אזי אימון המערכת על מספר גדול של הקלטות של טילים מעופפים וכוונונה בהתאם, יניב תוצאות טובות יותר מאשר בשיטה המסורתית. בזו האחרונה מהנדסים היו כותבים חוקים מפורשים המבוססים על פיזיקה ומתמטיקה, כך למשל, מגדירים למערכת המכ"ם: "אם אובייקט נע במהירות בין 2 ל-4 מאך, נמצא בגובה מסוים ובעל חתימת מכ"ם בגודל X – סווג אותו כטיל". אלא שכשהאויב משתמש בטיל שמשנה מהירות, טס נמוך או בעל חתימת מכ"ם שונה המערכת עלולה לטעות.

לא כך בשיטה בחדשה, שבה לא מגדירים למערכת מהו טיל, אלא מזינים לתוכה מיליוני הקלטות של שיגורים אמיתיים, טיסות של ציפורים, מטוסי נוסעים ומזל"טים. המערכת לומדת סטטיסטית שילובים של אלפי משתנים בו-זמנית – איך נראית התאוצה של טיל לעומת מטוס, מהו שינוי הטמפרטורה באוויר סביבו, איך חתימת המכ"ם שלו רוטטת בזוויות שונות. מערכת AI לא מחפשת תשובה של כן או לא לפי חוקים קבועים, אלא מחשבת הסתברות. וכך היא מגיעה למסקנה שלפי שילוב הנתונים הנוכחי, יש סבירות של 99.2% שמדובר בטיל בליסטי.

אלא שאם מישהו השלה את עצמו שמחשב שבנוי בשיטה המסורתית מבין את מה שהוא עצמו עושה, עליו לזנוח את המחשבה הזאת ביחס לבינה מלאכותית, שכן, השיטה החדשה זנחה במכוון כל ניסיון לפענח או להגדיר – אם נשתמש שוב בדוגמה של טיל בליסטי – מהו טיל בליסטי, אלא היא עוקפת את הבעיה באמצעות איסוף נתונים עיוור.

הדבר דומה להבדל בין אדם שרואה צבעים ומכיר ומבין את משמעותם, אך דווקא בשל כך ניתן להטעות את חוש הראייה שלו על ידי צבעי ביניים או טקסטורות ייחודיות, לבין עיוור מלידה שצבר באופן שיטתי ידע סטטיסטי רב ומעמיק באמצעות חוש המישוש וחוש הריח, על הקשר הסטטיסטי בין מרקמים וריחות לבין צבעים שונים ולכן קשה יותר להטעות אותו בזיהוי.

כלומר, העיוור מסיק את הסבירות לצבע כלשהו בו צבוע החומר שלפניו על ידי שהוא מחבר בין המידע שהוא מקבל מאדם אחר על צבעו של החומר לבין המידע שהוא אוסף על החומר על ידי מישושו והרחתו. כך הוא אוסף מידע רב על הקשר הסטטיסטי בין צבע החומר למרקמו וריחו, כאשר הקשר הזה אינו בהכרח נובע מגורמים סיבתיים אלא גם בגלל צירופי מקרים כלשהם. יתכן שהסטטיסטיקאי העיוור, אם יצבור מספיק ידע סטטיסטי על סמך מספר עצום של התנסויות, יגיע במקרי קצה לתוצאות טובות יותר מהראשון בעל העיניים הבריאות. אך אין זה משפיע כהוא זה על העובדה שהראשון יודע ומבין מה זה צבע ואילו השני פועל כסומא בארובה ואין לו שמץ של מושג איך זה לראות צבע.

ההבדל בין הפיקח לעיוור הוא גם ההבדל בין הבנה אנושית לבינה מלאכותית, החשיבה האנושית מתחילה ממקום גבוה של הבנה ורק אחר כך היא לובשת צורה ומילים ומספרים, ואילו הבינה המלאכותית אוחזת אך ורק את הנתונים והמספרים הכמותיים, דהיינו, את השכיחות היחסית, שניתן להצמיד לכל פרט ומשתנה ולעולם לא מתרוממת לשלב של ההבנה.

המצאת הגלגל

הבינה המלאכותית מעצם הגדרתה תלויה בקיומה של תבונה אנושית מקדימה, שכן האדם הוא זה שמאמן את המערכת על ידי שהוא מזין אליה, למשל, הקלטות של טילים וציפורים מעופפים ומגדיר עבורה מה טיל ומה ציפור (כך גם מערכות AI שמאמנות את עצמן, עושות זאת על ידי שהן בוחנות טקסט אנושי ושואבות ממנו מידע, או על ידי שימוש במערכות AI אחרות שאומנו בעצמן על ידי אדם). משמע, בינה מלאכותית אינה אלא חיקוי עיוור ובלתי תבוני של תבונה ואנושית ותו לא.

נובע מכך, בין היתר, שאי אפשר לגלות באמצעות שיטת עבודה מסוג זה כמעט אף תגלית חדשה, המצאת הגלגל למשל לא יכולה להתרחש באמצעות מערכת כזו, שהרי אין לה את היכולת לברוא יש מאין, בכוחה רק ללוש ולערבל את אותם דברים עצמם. יתרה מכך, מעצם הגדרתה היא לא יכולה להציע דבר חדש באמת שכן דבר חדש מעצם הגדרתו שלו, הינו בעל שכיחות סטטיסטית של אפס, כלומר, הוא עדיין לא קיים בשום מקום ולכן הוא לא שכיח.

הבינה המלאכותית לא פותרת בעיות, ולא מעבדת בעיות, יש לה רק בעיה אחת שבה היא עוסקת, והיא איך להיטיב לחקות ולשפר תגובה או הבחנה אנושית לכל בעיה שהיא, זאת על סמך היסטוריה אדירה של תגובות והבחנות אנושיות מגוונות לשלל בעיות.

החדר הסיני

אם כן, התהום העקרונית שמפרידה בין הבנה אנושית לבין חוסר תבונה של מכונה נותרה כשהיתה ואף נעשתה מודגשת יותר בעולם המשופע ב-AI לכל מטרה. "החדר הסיני" הישן והטוב של ג'ון סירל, שנכיר עוד רגע, ממחיש היטב שלא מדובר במרחק גיאוגרפי, בפערי לו"ז או בהבדלים ברי חלוף, אלא בניגוד מהותי בלתי ניתן לאיחוי.

פינקר אותו הכרנו במאמר זה מציג בבהירות את החדר הסיני, רק כדי להגיב עליו בבלבול ובגמגום, ולהתבצר ב"תיאוריה המחשובית של המוח", לפיה המוח – לו הוא מייחס את כל היכולות הנפשיות, התבוניות והתודעתיות של האדם – הוא מחשב שמעבד מידע שזורם דרך החושים, מקבל אותות שעוברים בין הנוירונים השונים, מתגבר ומחליש אותם לפי הצורך, מחבר ומפלג לפי העניין, ומגבש אותם לפקודות קונקרטיות שמבוצעות על ידי איברי הגוף.

כרגיל, למען הסר ספק, פינקר אינו העניין כאן, פינקר רק ישמש אותנו כמודל לפיזיקליסטים רבים שמחזיקים בדעות דומות ומאמינים באדיקות בַּבִּלתי יאמן.

פינקר מציג את החדר הסיני:

ראשון התוקפים היה הפילוסוף ג'ון סירל. סירל עודנו סמוך ובטוח שהפריך את התיאוריה המחשובית של המוח ב-1980… הגרסה של סירל התפרסמה ברבים בתורת "החדר הסיני". אדם שאינו יודע סינית מוכנס לחדר. מתחת לדלת מוחלקות פיסות נייר ועליהן קשקושים. לאיש יש עכשיו רשימה ארוכה של הוראות מורכבות כדוגמת "בכל פעם שתראה משהו [קשקוש קשקוש קשקוש] רשום זאת [קשקוש קשקוש קשקוש]". חלק מן הכללים שלו מורים לו להחליק את רישומיו מתחת לדלת כלפי חוץ. האיש משתפר בביצוע ההוראות. בלא שהוא יודע זאת, הקשקושים הם אותיות סיניות, וההוראות הן תוכנית של אינטליגנציה מלאכותית לתשובה על שאלות בקשר לסיפורים בסינית. עד כמה שידוע לאדם הנמצא מעברה האחר של הדלת, האיש בחדר הוא יליד סין דובר סינית, מפני שהוא מפעיל תוכנית כזאת. אבל האיש אינו מבין סינית, אף לא מלה אחת; הוא רק מבצע מניפולציה בסמלים. לכן, הבנה – ועל דרך ההרחבה, כל היבט של אינטליגנציה – אינה זהה למניפולציה בסמלים או לפעולת מחשב…

החדר הסיני עורר כמות בל-תיאמן, באמת ובתמים, של הערות ותגובות… לאנשים שאומרים כי החדר השלם (אדם פלוס גיליון כללים) מבין סינית, משיב סירל: יפה, נניח שהאיש חורת בזיכרונו את הכללים, מבצע את החישובים בראשו, ופועל תחת כיפת השמים. החדר נעלם, ומניפולטור הסמלים שלנו עדיין אינו מבין סינית. לאלה שאומרים כי האיש חסר כל קשר תחושתי-מוטורי עם העולם, וזה הגורם החסר הקריטי, משיב סירל: נניח שהקשקושים הנכנסים הם פלט של מצלמת טלוויזיה והקשקושים היוצאים הם פקודות לזרוע רובוט. יש לו קשרים, אבל עדיין אין הוא מבין את השפה. לאלה שאומרים כי התוכנית אינה משקפת את מה שעושה המוח, יכול סירל להשיב בעזרת המשלים לחדר הסיני שבלוק הפיץ במקביל, "אולם ההתעמלות הסיני": מיליוני אנשים באולם התעמלות עצום פועלים כאילו הם נוירונים ומשמיעים אותות בצעקה לתוך מכשירי הקשר האישיים שלהם, תוך העתקה של רשת עצבית העונה לשאלות בקשר לסיפורים בסינית. אבל אולם ההתעמלות אינו מבין סינית יותר מהאיש האמור.

הטקטיקה של סירל היא לפנות שוב ושוב אל השכל הישר שלנו. אפשר כמעט לשמוע אותו אומר, "אתם שם, בואו הנה! אתם מתכוונים לטעון שהבחור מבין סינית???!! לכל הרוחות!!! הוא לא מבין מלה! הוא חי בברוקלין מהיום שנולד!!" וכן הלאה. אבל ההיסטוריה של המדע לא נהגה באדיבות, אם להתבטא במתינות, באינטואיציות הפשוטות של השכל הישר. הפילוסופים פטרישה ופול צ'רצ'לנד (Churchland)  מבקשים מאתנו לדמיין איך היה אפשר להשתמש בטיעון של סירל נגד התיאוריה של מקסוול על כך שהאור מורכב מגלים אלקטרומגנטיים. בחור מחזיק מגנט בידו ומטלטל אותו מעלה ומטה. הבחור יוצר קרינה אלקטרומגנטית, אבל שום אור אינו בוקע; לכן, האור אינו גל אלקטרומגנטי. ניסוי החשיבה מקטין את תדירות הגלים לטווח שבו אנחנו בני-האדם שוב איננו יכולים לראותם כאור. מתוך ביטחון באינטואיציות שלנו בניסוי החשיבה, אנו מסיקים בלי שום יסוד כי הגלים המהירים אינם יכולים להיות אור. בדומה לכך, סירל האט את פעולת המחשוב המנטלית לטווח שבו אנו בני-האדם שוב איננו יכולים לחשוב עליה כעל הבנה (מפני שהבנה מהירה, בדרך-כלל, פי כמה וכמה). מתוך ביטחון באינטואיציות שלנו בניסוי החשיבה, אנו מסיקים בלי שום יסוד כי פעולת מחשוב מהירה גם היא אינה יכולה להיות הבנה…

צר לי לקטוע את השטף, אבל אני מוכרח להעיר שניכר לעין שפינקר, פטרישה וצ'רצ'לנד כאחד לא הבינו את הקונספט. אין כאן איזושהי בעיה קלה ומקומית שאפשר לפטור כלאחר יד כאשליה או כתקלה. המשל על הבחור שמטלטל מגנט ויוצר קרינה אלקטרומגנטית בלתי נראית, נוגע ללב ככל שיהיה, אינו רלוונטי, משום שהבעיה עם הטענה שהפעלה של סמלים בסינית שווה להבנת הסינית אינה שאנחנו לא רואים את ההבנה החבויה, הקושי אינו בהצבעה על המיקום או הזמן המדויקים שבהם מפעפעת ההבנה בתוך החדר הסיני, כמו כן הבעיה לא נובעת משכל ישר גרידא, כזה שאפשר להטיל ספק בסמכותו. הבעיה היא עקרונית, הבעיה היא שגלגול סמלים, מלמול מילים, סלסול כללים וטלטול כלים לא מצויים במישור אחד עם הבנת סינית, זה לא שמפריד ביניהם מרחק רב, אין זאת שהסמלים והכללים אי שם בנוגה וההבנה אי פה על מאדים, אלא שקיים נתק מהותי בין המישורים ובין הממדים.

אם השאלה היתה בנוגע לפער טכני או למרחק בתפיסה, לדוגמה, אם השאלה היתה איך אפשר להפוך אש למים או אנרגיה לחומר, היה מקום לשיחת נזיפה על ההסתמכות על השכל הישר, והיה טעם לנהל הטפה על הבחור שמטלטל מגנט ולא רואה אור, אבל כאן הבעיה היא עקרונית.

הנה דוגמה אחרת לפער עקרוני שלא ניתן לגשר עליו במילים יפות, לפי "הכשל הנטורליסטי" הטבע החומרי כשלעצמו לא יכול להוות גורם או מקור למוסר, כעת ברור שלא יהיה טעם לחשל את רוחנו בטענות סרק על חולשתו של השכל הישר ואפסותה של האינטואיציה, משום שהאתגר כאן הוא לא בגלל שכל ישר, אלא בגין כל שכל בכלל, השכל לא יכול לקבל את החיבור של שני דברים שלא יכולים לתקשר זה עם זה, חומר פיזי אינו עומד באותו מישור עם מוסר ומצפון, נקודה.

בדומה לכך, אם נחזור לעניינינו, פעולת פיזית בשום אופן לא יכולה לנהל דיאלוג, לשמש כמקור, לקיים יחסי גומלין עם הבנה ותודעה, ושום משל מעוקל לא ישנה את העובדה הזו. מאידך, אם פינקר מנסה לרמז שהשכל האנושי לא כשיר לשפוט את הבעיה הזאת, אז ייתרנו בכך את הדיון, אם התשובה היא בסופו של דבר – תשובה פנאטית פונדמנטליסטית רדיקלית – שעלינו לזרוק את השכל לים, עיקרנו את הדיון מעיקרו ולא רק אותו אלא כל דיון שהוא. אפשר ללכת לרחוץ בים יחד עם השכל ואין צורך להכביר במילים. רבינו זעק – אין עולם ואין שכל בעולם.

פינקר, מכל מקום, ממשיך בשלו:

לדעתי, סירל רק בוחן עובדות מסביב למלה להבין. בני-אדם מסרבים להשתמש במלה אלא אם כן מתמלאים תנאים סטריאוטיפיים מסוימים: כללי השפה משמשים במהירות ושלא במודע, והתוכן של השפה קשור לאמונות של האדם השלם. אם יש מי שמסרב להשתמש במלה הנפוצה להבין בתנאים אקזוטיים שאינם תואמים את הסטריאוטיפ אבל משמרים את תמצית התופעה, משמע ששום דבר אינו מוטל באמת על כפות המאזניים. אנו יכולים לחפש מלה אחרת, או להסכים להשתמש במלה הישנה במובן טכני; למי אכפת? ההסבר של מה גורם להבנה לפעול הוא אותו הסבר עצמו. עניינו של המדע, אחרי ככלות הכל, הוא בעקרונות שגורמים לדברים שונים לפעול, לא באיתור הדברים שהם דוגמאות "אמיתיות" של מלה מוכרת. אם מדען מסביר את התפקוד של המרפק האנושי באמירה שזה מנוף מדרגה שנייה, עדיין מותר לתאר איש מחזיק במנוף מדרגה שנייה, עשוי פלדה, ולהכריז, "אבל ראו, לאיש הזה אין שלושה מרפקים!!!"

כאן פינקר צודק, בעקרון, המדע ככלות הכל צריך להסביר את העקרונות שגורמים לדברים שונים לפעול, אבל באותה נשימה, פינקר מתעלם מכך שהמדע מעולם לא הסביר, ואף מעולם לא מצא את השפה המתאימה כדי לדון בשאלה מה העקרון שגורם להבנת הסינית להיות אפשרית. אכן, המדע לא אשם כי הוא לא הכתובת הנכונה, המדע עוסק במה שניתן לתצפית ומדידה ואילו הבנת הסינית אינה כזו. השאלה שעומדת על הפרק אינה שאלה מדעית אלא שאלה גדולה הרבה יותר שאינה מוגבלת לתחום הצר שבו עוסק המדע, פינקר שמתרפק בערגה על המדע, אינו מבין שמה שמוטל כאן על כפות המאזניים, הם, בין היתר, הגבולות של המדע עצמו.

במילים אחרות, פינקר מניח מראש שמדובר בסך הכל בפער מדעי מהסוג הרגיל, ולכן הוא מאלץ את הפער להתאים את עצמו למיטת הסדום של המדע, אם יש כאן שאלה מדעית גרידא, אזי הכלים שבהם משתמשים הם הכלים המקובלים, אין לשאול מדוע ולמה אלא רק למדוד ולאסוף נתונים בשקידה ולכמת את התופעות בשתיקה. ההנחה הבסיסית היא שאם בסופו של דבר לא יהיה הבדל כמותי בין חדר הסמלים והכללים הסיני לבין סיני מקורי מעלי אקספרס דובר סינית, אזי מבחינה מדעית אכן בהכרח שאין כל הבדל ביניהם! אתם מבינים, למדע אין זמן להתעסק בשטויות כמו אינטואיציה רפה של פילוסופים, המדע, רבותי, מתעסק בעקרונות!

אבל ההנחה הזאת שגויה מיסודה, התודעה וההבנה בלתי ניתנות להסבר באמצעות המדע, והן אינן כפופות לגבולותיו הצרים של המדע, אלא המדע כפוף להן, שכן המדע אינו אלא תוצאה ותולדה ומסקנה של התודעה וההבנה.

החדר ההיפר סיני

בשורה התחתונה, פינקר משליך את כל יהבו על המהירות, חדר סיני היפראקטיבי, הוא חדר שמבין סינית:

אילו נוסח מואץ של סיפורו המגוחך של סירל היה מתגלה כאמיתי, ואילו פגשנו באדם שנראה כמשוחח בסינית בצורה אינטליגנטית חרף העובדה שלאמיתו של דבר הוא רק הפעיל מיליוני כללים ללמידה בעל-פה בשברי שנייה, ספק אם היינו שוללים את האפשרות שהוא מבין סינית.

כמה מהר? למה מהר? ואם המוח האנושי היה עובד לאט אז מה? ובכלל מה הקשר בין מהירות למהות?

"נס המערכת" משנה את פניו למהירות בעלת השפעה מאגית, לפי ההיגיון הזה סופת הוריקן יותר חכמה ומודעת לעצמה ממשב רוח קל של בין ערביים, מה עוד שהסופה נעה בזריזות ומגיבה במהירות גבוהה לאותות מהסביבה, מעבדת את כל הנתונים אודות לחץ, טמפרטורה, תוואי שטח, לחות וכיוצא באלו ומתאימה את עצמה אליהם בהספק של כ-300 קמ"ש.

בשר וברזל אין הבדל

פינקר חותם את הדיון במילים הבאות:

אפשר שהמענה האחרון לחדר הסיני של סירל מצוי בסיפור פרי עטו של סופר המדע הבדיוני טרי ביסון (Bisson), ובו נעה האפיקורסות בכיוון ההפוך. בסיפור מדווח על שיחה בין הקברניט של צי מחקר בין-פלנטרי ובין מפקדו העליון, המתחילה בנושא הזה:

"הם עשויים מבשר"…

"בשר?"

"אין שום ספק בכך. ליקטנו כמה דוגמאות בחלקים שונים של כוכב-הלכת, העלינו אותן לספינות הסיור שלנו, בדקנו אותן ביסודיות. הן עשויות בשלמות מבשר".

"בלתי אפשרי. מה ביחס לאותו רדיו? השדרים לכוכבים?"

"הם משתמשים בגלי רדיו לדיבור, אבל האותות לא באים מהם. האותות באים ממכונות".

"אז מי עשה את המכונות?"

"הם עשו את המכונות. זה מה שאני מנסה לספר לך. בשר עשה את המכונות".

"זה מגוחך. איך בשר יכול לעשות מכונה? אתה מבקש ממני להאמין שיש בשר עם חושים".

"אני לא מבקש ממך. אני אומר לך. היצורים האלה הם הגזע בעל החושים היחיד במגזר והם עשויים מבשר".

"יכול להיות שהם כמו האורפוליי. אתה יודע, אינטליגנציה עשויה פחמן שעוברת דרך שלב בשר".

"בשום אופן לא. הם נולדים בצורת בשר ומתים בצורת בשר. בדקנו אותם בכמה מחזורי חיים, שום מחזור אינו ארוך מדי. יש לך מושג מה מחזור חיים של בשר?"

"סליחה? בסדר. יכול להיות שהם בשר רק בחלקם. אתה יודע, כמו הוודיליי. ראש בשר ובפנים מוח עשוי פלסמת אלקטרונים".

"בשום אופן לא. חשבנו על זה, מפני שיש להם ראשי בשר כמו לוודיליי. אבל אמרתי לך, בדקנו אותם. הם עשויים לגמרי מבשר".

"שום מוח"?

"או, יש מוח לגמרי בסדר. זה רק שגם המוח עשוי מבשר"!

"אם ככה, מי אחראי לחשיבה?"

"אתה לא מבין או שרק נדמה לי? המוח אחראי לחשיבה. הבשר"

"בשר חושב! אתה רוצה שאני אאמין בבשר חושב!"

"כן, בשר חושב! בשר עם תודעה! בשר אוהב. בשר חולם. הבשר זה כל הסיפור. אתה קולט?"

ובכן, יכול להיות שבמחלוקת הפנימית בין סירל לפינקר, פינקר צודק בנקודה הזאת, אם סירל אכן רוצה בסופו של דבר לטעון שהביולוגיה, הכימיה או הבשר עושים את ההבדל בין מכונה לבן אדם, אז דבריו חסרי שחר ממש כמו אלו של פינקר – בשר או ברזל, אין אכן כל הבדל, הפער נותר כשהיה.

מה אמר הצב לאכילס

בשביל לראות עד כמה אכן הפיזיקליסטים נדחקים למקום שבו ההבנה אכן אינה שום דבר מעבר לכללים, סמלים, צלצולים ומלמולים, נראה את התנהלותו של פינקר כאשר הוא צולל לאזור סכנה אחר ומציג את הפרדוקס של לואיס קרול, הפרדוקס מבהיר שכל מעבר למסקנה שנובע בהכרח מהנחות מוקדמות כלשהן הנו בעצמו הנחה נוספת, ולכן גם הוא זקוק להיות מונח מראש, וגם אם נצרף אותו לרשימת ההנחות נזדקק להנחה נוספת שתקבע שבהינתן כך וכך הנחות יש לעבור למסקנה, וגם הנחה זו לא תספיק משום שהמעבר שוב יהיה בגדר הנחה נוספת (ראה ציטוט בהערה[1]).

פינקר אומר על כך את הדבר המדהים הבא:

פתרון הפרדוקס פשוט למדי: שום מערכת היסק אינה צמודה לכללים מפורשים לאורך כל הדרך. בנקודה מסוימת, המערכת חייבת, כפי שאמר ג'רי רובין, פשוט לעשות זאת. לאמור, הכלל חייב פשוט להתבצע על-ידי הפעולה ההיגבית והכוחנית של המערכת, ושוב אין מקום לשום שאלה. בנקודה זו המערכת, אם תלבש צורת מכונה, לא תלך אחרי הכללים אלא תציית לחוקי הפיסיקה. בדומה לכך, אם שדים (כללים להחלפת סמלים בסמלים) קוראים וכותבים את המצגות, ואם בתוככי השדים יש שדים קטנים יותר (וטיפשים יותר), סופנו שנקרא למכסחי השדים ונחליף את השדים הקטנים ביותר והטיפשים ביותר במכונות – עד כמה שהדברים אמורים בבני-אדם ובחיות, מכונות בנויות מנוירונים: רשתות עצביות…

הבנתם? מה שלא הולך במוח הולך בכוח, אלא שאצל פינקר אין הבדל בין מוח לכוח, שניהם פועלים באופן מכני וללא פשר, ואין שום דבר אחר שבו קיימת הבנה אמיתית.

כאן מצויה נקודת מחלוקת עמוקה בין הפיזיקליסטים לבין כל יתר בני האנוש, הפיזיקליסטים אומרים בפשטות – ההבנה היא מכשיר שמסתובב מספיק מהר, או מערכת מספיק מסובכת, או מנגנון מספיק מכוונן ומדויק.

במילים אחרות: כשהפיזיקליסטים רוצים לטעון שמכשיר מבין משהו, הם יאמרו לעתים שהבנה היא אשליה ולעתים הם יגידו שהמכשיר איכשהו מבין באמת. ולפעמים הם ינמיכו קצת את ההבנה האנושית ויגביהו קצת את הכושר המכשיר להכיל הבנה, בציפייה שהערפל הסמיך יסתיר את הבלבול והמבוכה.

פינקר בעצם פתר את כל הפרדוקסים בעולם, איך? בכוח!

אבל אם אתם בכל זאת תוהים על פרדוקס כלשהו ולא סבורים שאפשר לפתור את כל הפרדוקסים בכוח, אתם מוכיחים שאינכם רק גוש בשר, ושההבנה אינה נוצרת בכוח ולא במוח אלא ברוח.

הבנה אנושית כתעלומה

ההבנה האנושית היא אכן פרדוקסלית ולא רק בגלל הפרדוקס של לואיס קרול, אלא גם בגלל בעיות דומות; ההבנה האנושית היא אינסופית במובן מסוים, או על כל פנים בלתי ניתנת להעמדה על סמלים וחוקים וכללים לוגיים שכן היא מחייבת הנחות מוקדמות שמוכרחות להישען על אחרות עד לאינסוף, כלומר כדי להצדיק כל הנחה מוקדמת שהיא מוכרחת להיות הנחה נוספת שעליה נשענת ההנחה המוקדמת וכך הלאה עד לאינסוף.

מקובל לחשוב שאין להנחות המוקדמות הצדקה והן יסודיות ובסיסיות ובזה נגמר העניין, אך הדבר לא כך, שכן אנחנו מבינים את ההנחות המוקדמות ולא מקבלים אותן בניגוד לרצוננו ולהבנתנו. כלומר, גם אם אין לנו יכולת לתאר את התפיסות המוקדמות שעליהן מונחות ההנחות המוקדמות, או את ההנחות שקדמו להן וכך הלאה, משום שהדבר מוביל לנסיגה אינסופית, בכל זאת מוכרחת להיות סיבה כלשהי שמובילה אל ההנחות האלו וגורם נוסף שמוביל אליה וכך הלאה עד אינסוף.

לדוגמה אפשר להתבונן על חוק הסתירה שמוגדר לפי אריסטו, כאקסיומה (-הנחת יסוד) של כל האקסיומות. לפי חוק הסתירה – "מן הנמנע הוא שמשפט והיפוכו יהיו נכונים כאחד". כך למשל, המושג "משולש" לא יכול להיות בעל שלוש צלעות וגם בעל ארבע צלעות.

מצד אחד אנחנו מבינים היטב את החוק הזה, אבל מהצד השני אין שום דרך שבה ניתן להצדיק או להוכיח את החוק הזה, משום שכל הוכחה או הסבר חייבים להסתמך על חוק הסתירה עצמו, שהרי אלמלא חוק זה ניתן להניח לצד כל תפיסה שהיא תפיסה הפוכה וסותרת, שהרי טרם חוקקנו את "חוק הסתירה" שאוסר על סתירות. בדומה לכך כל הנחות היסוד ודרכי החשיבה הבסיסיים אינם ניתנים להוכחה ובכל זאת הם מובנים ונהירים לנו.

ולכן פרדוקסים אלו מהווים הכרח נוסף לכך שאי אפשר להעמיס על מכונה הבנה אנושית שכן מדובר בתפיסה שנובעת מתוך אינסוף או לפחות היא כזאת שלא ניתנת לבנייה במספר סופי של צעדים לוגיים או מכניים או טכניים.

להצטרפות לרשימת התפוצה: 0000cohen@gmail.com

כמו"כ ניתן להזמין במייל זה, את ספרו של המחבר – "מרד המכונות", בהוצאת מוסד הרב קוק

[1] בסיפורו של לואיס קארול, "מה אמר הצב לאכילס?", הגיבור קל-הרגליים מדביק את הצב המתנהל לאטו, תוך התרסה על הפרדוקס המפורסם של זנו, האומר כי המקדמה שניתנה לצב מונעת כל אפשרות להדביקו. (בזמן שנדרש לאכילס לסגור את הפער, הצב התקדם במשהו; בזמן שנדרש לאכילס לסגור את הפער החדש, הצב התקדם עוד קצת, וכן הלאה עד אינסוף). הצב מציג לאכילס פרדוקס דומה מתחום הלוגיקה. אכילס שולף מכיסו פנקס אימתני ועיפרון, והצב מכתיב לו את המשפט הראשון של אוקלידס:

(א) שני דברים ששווים לדבר שלישי שווים זה לזה. (ב) שתי הצלעות של המשולש הזה שוות לאותו דבר עצמו. (ת) שתי הצלעות של המשולש הזה שוות זו לזו.

הצב כופה על אכילס להסכים כי כל מי שמקבל את א ואת ב ו"אם א וב, הרי גם ת", חייב לקבל גם את ת. אבל עכשיו חולק הצב על הגיונו של אכילס. לדבריו, הוא רשאי לדחות את מסקנה ת, מפני שאיש לא כלל מעולם את כלל אם-הרי ברשימת ההנחות שעליו לקבל. הוא קורא תיגר על אכילס שיכריח אותו להסיק את ת. אכילס מגיב בכך שהוא מוסיף לרשימה שבפנקסו את ג:

(ג) אם א וב נכונים, ת חייב להיות נכון.

הצב עונה שנבצר ממנו לראות מדוע עליו להניח כי ת נכון רק משום שא וב וג נכונים. אכילס מוסיף עוד היגד –

(ד) אם א וב וג נכונים, ת חייב להיות נכון.

– ומצהיר כי "ההיגיון [חייב] לתפוס אותך בצווארך ולהכריח אותך" לקבל את ת. הצב עונה, כל דבר שההיגיון טוב די הצורך לומר לי מצריך כתיבה. לכן, תכלול אותו בבקשה בפנקסך. נקרא לו –

(ה) אם א וב וג וד נכונים, ת חייב להיות נכון".

"אני רואה", אמר אכילס, ובקולו היתה נימה של עצב. כאן נאלץ המספר לעזוב את הזוג המאושר, מכיוון שהיה עליו להסדיר עניינים דחופים בבנק, ושוב לא עבר במקום אלא מקץ כמה חודשים. בבואו, אכילס עדיין היה ישוב על גבו של הצב עתיר-הסובלנות, וכתב בפנקסו, שהיה נראה כמעט מלא. הצב היה בעיצומה של אמירה, "כתבת את השלב האחרון? אם לא טעיתי במניין, מספרנו אלף ואחת. נותרו לנו עוד כמה מיליונים".