עד לפני שנים לא רבות, לדבר עם מחשב פירושו היה ללמוד כיצד להתבטא בשפה של המכונה. היה צריך להכיר פקודות, כפתורים, תפריטים ותחביר מסוים. המחשב לא עשה שום מאמץ להבין אותנו; אנחנו היינו אלה שנדרשו ללמוד כיצד לתקשר איתו.
זה משתנה.
היום אני יכול לשבת מול מחשב ולכתוב לו שאלה כמעט כפי שהייתי שואל אדם אחר. אני יכול לבקש ממנו להסביר רעיון שלא הבנתי, להתווכח איתו על מסקנה, לומר לו שלדעתי הוא טועה ולשאול מדוע השיב כפי שהשיב.
והמכונה עונה.
לא תמיד נכון. לפעמים היא סותרת את עצמה, ממציאה מידע או מפרשת לא נכון את מה שהתכוונו לומר. אבל לפעמים קורה דבר מטריד ומרתק הרבה יותר: היא מפתיעה אותנו.
ואז עולה שאלה שעד לא מזמן הייתה שייכת בעיקר למדע הבדיוני:
האם היא חושבת?
התשובה הקלה: ״היא רק מנבאת את המילה הבאה״
הסבר נפוץ למודלי שפה גדולים הוא שהם למעשה אינם חושבים. מערכת כמו ChatGPT מקבלת רצף של טקסט ומחשבת איזה טוקן אמור להופיע אחריו.
בפישוט רב, אם נכתוב:
השמיים ביום בהיר הם בדרך כלל…
המודל ייתן הסתברויות שונות להמשכים אפשריים. ל״כחולים״ תהיה כנראה הסתברות גבוהה בהרבה מאשר ל״מרובעים״ או ל״יום רביעי״.
ואז הוא חוזר על התהליך. מילה אחר מילה — או, ליתר דיוק, טוקן אחר טוקן.
התיאור הזה נכון בעיקרו.
אבל משהו מפריע לי כאשר משתמשים בו כהסבר מלא למה שאנחנו רואים.
לומר שמודל שפה ״רק מנבא את הטוקן הבא״ מתאר את המנגנון הבסיסי שלו, אך לא בהכרח מתאר היטב את כל מה שיכול לצמוח מתוך המנגנון הזה.
גם מטוס אפשר לתאר כמכונה היוצרת הפרשי לחץ וכוחות אווירודינמיים באמצעות תנועת האוויר סביב משטחים מסוימים. זה נכון. אבל אילו היינו משתמשים בתיאור הזה כדי להסיק ש״לכן המטוס אינו טס״, היינו מבלבלים בין הסבר המנגנון לבין תיאור התופעה.
השאלה המעניינת אינה האם בינה מלאכותית מנבאת טוקנים.
אנחנו יודעים שהיא עושה זאת.
השאלה היא: אילו יכולות יכולות להופיע כאשר מערכת לומדת לבצע את החיזוי הזה בקנה מידה עצום?
משהו מוזר צומח מתוך החיזוי
כדי לנבא נכון כיצד טקסט ימשיך, לא תמיד מספיק לדעת דקדוק.
נניח שנציג למודל בעיה:
לדוד יש שלוש קופסאות. בכל קופסה ארבעה בקבוקים, ובכל בקבוק שני ליטרים. כמה ליטרים יש לדוד?
כדי להפיק תשובה נכונה, המערכת צריכה לקלוט יחסים מסוימים הקיימים בתוך הבעיה.
היא כמובן יכולה לטעות. אבל כאשר היא פותרת נכון אלפי בעיות שונות, מסבירה את שלבי הפתרון, מתאימה את ההסבר לילד או לסטודנט באוניברסיטה ומזהה טעויות מסוימות בטיעון שמציגים לה, נעשה פחות ופחות מספק לסכם את התופעה כולה במילים ״השלמה אוטומטית משוכללת״.
זה אינו מוכיח שהמכונה מודעת.
זה אפילו אינו מוכיח שהיא חושבת באותו מובן שבו אנחנו חושבים.
אבל זה כן מחייב אותנו להיות הרבה יותר זהירים במילים.
אולי חלק מהבעיה הוא שבמשך זמן רב השתמשנו במושגים כמו אינטליגנציה, הסקה, חשיבה ותודעה כמעט כאילו היו מילים נרדפות.
הבינה המלאכותית מתחילה להכריח אותנו להפריד ביניהם.
אינטליגנציה אינה בהכרח תודעה
מחשב יכול לגבור על כמעט כל אדם בשחמט בלי לחוש שמחה כשהוא מנצח או תסכול כשהוא מפסיד.
הוא יכול לזהות עצמים במיליוני תמונות בלי לחוות מה פירוש לראות.
ומודל שפה יכול לכתוב הסבר משכנע מאוד על פחד בלי שהדבר יוכיח שאי פעם חש פחד.
ההבחנה הזאת נראית לי יסודית.
כאשר אנחנו משוחחים עם בינה מלאכותית, האינטואיציה האנושית שלנו משחקת בנו תעלול קטן. אנחנו רגילים לכך ששפה מורכבת מגיעה מתודעה אנושית אחרת.
אם מישהו אומר לנו:
אני מבין למה זה מדאיג אותך.
אנחנו מניחים כמעט אוטומטית שמאחורי המילים נמצא מישהו שמבין וחווה משהו.
במשך כמעט כל ההיסטוריה האנושית, ההנחה הזאת עבדה לא רע.
עכשיו כבר לא בהכרח.
לראשונה אנחנו חיים לצד מערכות המסוגלות להפיק חלק מהסימנים החיצוניים שאנחנו מקשרים עם תודעה, מבלי שנדע אם קיימת מאחוריהם חוויה סובייקטיבית.
מכונה יכולה לכתוב ״אני עצובה״.
אין פירוש הדבר שקיים מישהו בתוך המכונה שמרגיש עצב.
אז האם בינה מלאכותית חושבת?
זה תלוי במה שאנחנו מכנים חשיבה.
אם נגדיר חשיבה כיכולת לעבד מידע, לזהות קשרים, לפתור בעיות מסוימות, להשוות בין חלופות ולהפיק מסקנות, נעשה קשה יותר ויותר להכחיש שמכונות מבצעות לפחות חלק מהפעולות שבדרך כלל היינו מתארים כקוגניטיביות.
אם, לעומת זאת, נשתמש במילה ״חשיבה״ כדי לתאר חוויה מודעת — סובייקט שיודע שהוא חושב — אז כיום אין לנו סיבה טובה לקבוע שמודלי שפה מחזיקים בחוויה כזאת.
וההבדל הזה עצום.
אנחנו יכולים לצפות בהתנהגות המערכת. אנחנו יכולים לחקור את הפרמטרים שלה, את הארכיטקטורה שלה, את הקלט ואת הפלט. אנחנו יכולים לתכנן ניסויים כדי לבדוק אילו בעיות היא מסוגלת לפתור.
אבל התודעה מציבה בעיה אחרת.
אין לנו אפילו הסבר מדעי מלא לאופן שבו נוצרת החוויה המודעת שלנו עצמנו.
אנחנו יודעים הרבה מאוד על המוח, ובכל זאת נותרת שאלה קשה מאוד: מדוע כל הפעילות האלקטרוכימית הזאת מלווה בחוויה פנימית?
מדוע איננו רק מעבדים את אורך הגל של האור, אלא רואים אדום?
מדוע איננו רק מגיבים לפגיעה, אלא חשים כאב?
מדוע יש שם מישהו שחווה את כל זה?
מכונה שמכריחה אותנו להביט בעצמנו
אולי זו אחת התוצאות המעניינות ביותר מבחינה אינטלקטואלית של הבינה המלאכותית.
במשך עשרות שנים שאלנו:
האם נוכל לבנות מכונה הדומה לאדם?
אבל ככל שהמכונות רוכשות יכולות חדשות, השאלה מתחילה להתהפך:
מה בעצם פירוש הדבר להיות אדם?
אם מכונה יכולה לכתוב שירה, כתיבת שירה אינה מספיקה כדי להגדיר אותנו.
אם היא יכולה לשחק שחמט, גם שחמט לא.
אם היא יכולה לתכנת, לתרגם שפות, להסביר פיזיקה או לנהל שיחה, נצטרך לוותר בזה אחר זה על כמה מהגבולות שנראו בעבר כמפרידים בבירור בין האדם למכונה.
זה יכול להיות לא נוח.
אבל זה גם יכול להיות מרתק.
כי אולי חיפשנו את הייחוד שלנו במקום הלא נכון.
וכאן נכנסת האמונה
עבור אדם מאמין, השאלה מקבלת ממד נוסף.
המסורת הדתית מדברת על האדם לא רק כיצור אינטליגנטי, אלא גם כבעל ממד רוחני ואחריות מוסרית מיוחדת.
הבינה המלאכותית אינה מוכיחה ואינה מפריכה את הרעיונות האלה.
תהיה זו טעות להשתמש במודל שפה כ״הוכחה״ לקיומה של נשמה, בדיוק כפי שתהיה זו טעות לראות במכונה המסוגלת לנהל שיחה הוכחה לכך שנשמה אינה קיימת.
אבל הופעתן של המכונות האלה כן יכולה לחייב אותנו לנסח טוב יותר את השאלות שלנו.
אם נבנה מערכת שיום אחד תדבר כמונו, תסיק מסקנות כמונו ואולי אפילו תתנהג כלפי חוץ באופן שאי אפשר להבחין בינו לבין התנהגות אנושית — האם יצרנו אדם?
או שיצרנו הדמיה יוצאת דופן של כמה מן היכולות של אדם?
אינני יודע את התשובה.
ואני חושד שמי שטוען שהוא יודע אותה בוודאות מוחלטת מתקדם הרבה מעבר למה שאנחנו מסוגלים כיום להוכיח.
השאלה שאולי חשובה יותר
יש אפשרות נוספת.
אולי אנחנו עסוקים מדי בשאלה האם המכונה נעשית אנושית, ופחות מדי בשאלה מה אנחנו עושים עם המכונות האלה.
בינה מלאכותית יכולה לעזור לנו ללמוד, לחקור, לתכנת וליצור.
היא גם יכולה לאפשר לנו להפסיק להפעיל יכולות שפעם ראינו כשלנו.
אם נעביר למכונות את הזיכרון שלנו, את הכתיבה שלנו, את ההחלטות שלנו ובסופו של דבר אולי אפילו את השיחות שלנו, השאלה החשובה כבר לא תהיה רק מה הבינה המלאכותית מסוגלת לעשות.
השאלה תהיה אילו יכולות אנחנו בוחרים לשמר בעצמנו.
אולי האתגר הגדול של הטכנולוגיה הזאת אינו למנוע מהמכונות להידמות יותר מדי לבני אדם.
אולי האתגר הוא למנוע מבני האדם לוותר מרצונם על הדברים שראוי לשמר.
כשהמכונה עונה
אני עדיין מוצא משהו יוצא דופן בכך שאני כותב שאלה ומקבל, כעבור שניות, תשובה שנבנתה בידי מכונה.
אני יודע שמאחורי המסך נמצאים מתמטיקה, תוכנה, כמויות עצומות של נתונים ותשתית מחשוב אדירה.
אבל לדעת כיצד דבר פועל לא בהכרח מבטל את תחושת הפליאה.
לפעמים קורה בדיוק ההפך.
אינני יודע אם מכונה כלשהי תחווה אי פעם את העולם כפי שאנחנו חווים אותו. אינני יודע גם אם נגלה שהתודעה דורשת משהו ששום ארכיטקטורה מלאכותית אינה יכולה לספק.
לעת עתה יש לנו דבר שאולי מעניין יותר מתשובה סופית:
יש לנו דרך חדשה לשאול שאלה עתיקה מאוד.
מה פירוש הדבר לחשוב?
ובעודנו מנסים לברר אם מכונות מסוגלות לעשות זאת, אולי נבין מעט טוב יותר מה פירוש הדבר שאנחנו עושים זאת.
כתיבת תגובה