בינה מלאכותית לבני אנוש

דבר העורכת

כשקיבלתי לעריכה את ספרו של נדב לבל שמחתי, אבל גם קצת חששתי. בינה מלאכותית היא צירוף מילים שאנחנו שומעים בימים אלה כל הזמן, בכל מקום. נראה שאין תחום שבינה מלאכותית לא קשורה בו, ומשתלבת בו בהצלחה הולכת וגוברת. אבל מהי בדיוק בינה מלאכותית? האם מדובר במחשב? רובוט? ישות זדונית שזוממת להשתלט על העולם? או אולי זוהי קפיצה אבולוציונית שעומד לבצע המין האנושי עצמו? לא ברור. במדיה יש הרבה נבואות גרנדיוזיות, ומעט הסברים.

פתחתי את הקובץ והתחלתי לקרוא.

בתוך הספר מצאתי: זבובים וצפרדעים, פייק ניוז של זרזירים, דונלד טראמפ והאדם הקדמון, הוריקן אחד ושני קופים. אפילו גמביט המלכה קפצה לביקור. אבל אולי עוד יותר חשוב ממה שמצאתי – מה לא מצאתי בספר: חישובים מתמטיים מסובכים ושורות קוד, אפסים ואחדות. גם הפחדות אפוקליפטיות בסגנון "הגולם קם על יוצרו" וכל מיני הגזמות לצורך רייטינג לא היו שם. רק הסבר מאיר עיניים, בגובה העיניים, של כל מה שצריך לדעת כדי להבין על מה מדובר כשאומרים "בינה מלאכותית".

כשהתחלנו לעבוד על הספר גיליתי עוד כמה דברים.

ראשית, הבאז סביב התחום הזה לא מוגזם. מערכות מבוססות בינה מלאכותית מקיפות אותנו ברמה כזו שפשוט אי אפשר להמשיך להסתובב בעולם בלי לדעת כלום על איך הן פועלות. קפיצות אדירות מתרחשות כל הזמן. דברים שלפני שלוש שנים לא היו קיימים, ולפני שלושים שנה נחשבו מדע בדיוני – כבר נמצאים בשימוש או בפיתוח מתקדם. אם נרצה ואם לא, הטכנולוגיות האלה משפיעות על חיינו באופן ישיר, והן ישפיעו עליהם במידה הולכת וגוברת בעתיד הקרוב.

שנית, האהבה האישית של נדב לבל לתחום הזה מדבקת, וזוהי אהבה שמופנית בראש ובראשונה לבני אדם דווקא. מבחינתו של לבל המטרה של העיסוק בבינה מלאכותית היא לשפר את חייהם של כמה שיותר אנשים, וזוהי גם הסיבה לבחירתו לעסוק בחדשנות טכנולוגית בתחום הרפואה. בספר הזה מחשבים ואנשים הולכים יד ביד.

ובאשר לחשש שלי, להיפך: הספר מיועד בדיוק לאנשים כמוני, שרוצים לדעת על מה מדובר ולהיפתח לתחום הזה בצורה נעימה, אנושית. כי למעשה – וזו ההבנה החשובה ביותר העולה מכל דפי הספר – בינה מלאכותית היא מעין מראה, שבה משתקפים פנינו. הבינה המלאכותית לומדת אותנו, נהיית יותר ויותר דומה לנו, וככל שננסה להבין אותה, נגלה שהשאלה היא בעצם – מי אנחנו.

מירי פלד, עורכת

מראה, מראה שעל הקיר

בני האדם מומחים בזיהוי פנים אנושיים. זוהי מיומנות שפיתחנו במשך מיליוני שנים, משום שהפנים הם אחד מאפיקי התקשורת החשובים ביותר, החל מהיכולת של תינוקות לזהות את אימותיהם, וכלה בזיהוי פני אויב שיש להיזהר מפניו. בני אדם שסיגלו לעצמם יכולות תקשורת טובות העלו את סיכוייהם לשרוד, למשל בזכות היכולת להתריע מפני סכנות, להיערך אליהן או להתנגד להן. עם הזמן, הפכנו למקצוענים בקריאת הבעות פנים אנושיות, ויש שיעידו על עצמם שהם יכולים להבין את הזולת על ידי החלפת מבט.

האומנם?

לפניכם שש תמונות של אנשים. נסו לזהות באילו תמונות מופיעים אנשים אמיתיים ובאילו מופיעים פנים שהם פרי דמיונה של בינה מלאכותית.¹

אילו מהתמונות נראות לכם מזויפות? רשמו לעצמכם את תשובתכם, עוד נחזור לזה.

בתהליך יצירת התמונות המזויפות השתתפו שתי תוכנות בינה מלאכותית. בכל שלב התוכנה הראשונה, המזייפת, יצרה תמונה של אדם כלשהו, לעיתים באיכות ירודה. התוכנה השנייה, הבודקת, קיבלה את התמונה הזו והייתה צריכה לקבוע אם מדובר בזיוף או בתמונה של אדם אמיתי.

התוכנות למעשה התחרו זו בזו – המזייפת קיבלה נקודות כאשר הצליחה להערים על הבודקת, ונענשה כאשר הבודקת גילתה שמדובר בזיוף. מנגד, הבודקת תוגמלה כאשר זיהתה בהצלחה שמדובר בתמונה שנוצרה על ידי המזייפת או כאשר צדקה בטענה שמדובר בתמונה של אדם אמיתי, ונענשה כאשר טעתה. עם הזמן, התוכנות נהפכו למקצועניות כל אחת בתחומה, ומה שקרה בפועל הוא שהתוכנה הבודקת אימנה את התוכנה המזייפת בייצור תמונות שנראות אמיתיות, ולהפך.

כשאנחנו בוחנים את התמונות ומנסים להחליט אילו מהן אמיתיות, שאלה שכדאי להתעכב עליה לרגע היא – למה? מה גורם לנו לחשוד בתמונות מסוימות ולחשוב שלא מצולמים בהן בני אדם אמיתיים? למעשה, כשאני מביט בתמונות, קשה לי להגדיר במדויק מדוע מה שנראה לי מזויף או אמיתי הוא אכן כזה. לעומת זאת, אצל הבודקת, שאומנה לסווג תמונה כאמיתית או מזויפת, הכול מוגדר ברמה המספרית והמדויקת ביותר שיכולה להיות. היא מפתחת יכולת שאין אנושית ממנה (זיהוי פני אדם), אבל היא עושה זאת על סמך חישובים שאין לנו שום מושג מה הם בעצם.

כאן המקום לציין שכל שש התמונות שהוצגו לעיל הן מזויפות. התוכנות מצליחות להערים על האינטואיציה האנושית שלנו שהשתפרה לאורך מיליוני שנים. דמיינו כעת את אותה שיטת אימון של שתי תוכנות המאמנות זו את זו מופעלת על תחומים נוספים שנחשבים אנושיים במיוחד כגון יצירת מוזיקה, כתיבת שירה או ציור. כבר כיום, לא תמיד נוכל להבדיל בין האנושי למלאכותי. בהזדמנות זו אני מבקש גם להודות ל-DALL-E2, התוכנה שיצרה עבורי את תמונת הכריכה.

יכולות של תוכנות בינה מלאכותית מתעלות על אלו של בני אנוש בתחומים רבים. זהו כלי עזר רב עוצמה, שאם מבינים אותו אפשר להחיל אותו על כל תחום שנרצה לשפר בחיינו. אני בחרתי לעסוק בבינה מלאכותית בהקשר של רפואה, משום שזהו המקום שבו מאפשרת הטכנולוגיה לעזור בצורה משמעותית לבני אדם, לעיתים בשעתם הקשה ביותר. שימוש בטכנולוגיה כדי לסייע למטופלים – זו התכלית היפה והראויה ביותר בעיניי.

בעבודתי במרכז הרפואי רבין לא פעם יצא לי לראות אדם זקן וחולה, סביר להניח בשעתו הגרועה ביותר, נעזר לחלוטין באנשים אחרים, מובל במסדרונות בית החולים. כשאני עד לסיטואציה כזו, אני לא יכול שלא לחשוב שהאיש הזה, פעם, בתקופה אחרת ורחוקה, שגשג, פרח, אהב והיה אהוב, הושיט יד לאחר, כעס, בכה, התענג על יצירה מוזיקלית ובעיקר – חי. לדעתי החיוּת שהייתה בו, שהוא במובן מסיום העניק לסובבים אותו, צריכה לחזור אליו כהכרת תודה שמבוטאת בעזרה שנעניק לו. וכאן, בנקודה הזו, באקורד הסיום של סיפור חייו, כשכבר נראה שאין תקווה באופק, אנחנו צריכים להפעיל את הכלים החזקים ביותר שלנו על מנת לעזור לו, כלים מבוססי מדע וטכנולוגיה.

טכנולוגיה נחשבת אצל רבים כהפך המוחלט מאנושי, טבעי. אבל מדובר בכלים שניתן להשתמש בהם כדי לשמור ולהעצים את הדברים האנושיים ביותר, לשמור על היקרים לנו.

כמו מה שקרה לי, אישית. ועל כך – בפרק הבא.

1 https://www.thispersondoesnotexist

איך בינה מלאכותית (אולי) הצילה את חיי

לפני כחמש שנים גילו אצל אבא שלי מלנומה (סרטן העור) במצב מתקדם. הגילוי זעזע את כל המשפחה. אבא שלי שמר כל חייו על בריאותו, ועקב היסטוריה משפחתית רלוונטית דאג לבצע סקירות של נקודות חן פעמיים בשנה. ובכל זאת נקודת חן מסוכנת קטנה אחת הצליחה לחמוק מתחת לרדאר, להתפתח באין מפריע ולהפוך בסופו של דבר לאיום ממשי על חייו.

נקודת החן הוסרה מייד, כמובן. אולם כאשר בדקו את גבולות הכריתה הראשונה, חזרה תוצאה שהעידה שייתכן שכבר נשלחו גרורות אל אזורים אחרים בגוף. היה צורך לבצע כריתה נוספת כדי לקבל תמונה טובה יותר. בנוסף, ליתר ביטחון, הוחלט להסיר את בלוטות הלימפה (שדרכן יכולות להישלח גרורות אל כל הגוף). לא אלאה אתכם בתלאות שעברנו, סיוט שנמשך חודשים. אספר רק שלעולם לא אשכח את הרגע שבו אבא שלי פרץ לחדרי, בוכה מאושר, ובידו תוצאות הבדיקה שהכילו מילה אחת שחיכינו כל כך לשמוע: נקי. בכינו יחד מחובקים.

זה נגמר. אבל שאלה אחת לא הפסיקה לנקר בראשי. איך סיוט נורא כל כך, שנמשך חודשים והיה עלול להסתיים בצורה גרועה הרבה יותר, התרחש בגלל נקודת חן אחת קטנה שלא אותרה בזמן? איך ייתכן שעם כל ההתקדמות הטכנולוגית, הדרך הנפוצה להחליט אם נקודת חן מסוימת היא מסוכנת או לא היא להתבונן עליה ממש טוב מקרוב? הרי עם כל הניסיון של הרופאים, ברור שהם עלולים להחמיץ הרבה מאוד פרטים זעירים או לא לייחס להם את החשיבות הראויה. הדבר יכול להיגרם ממגבלות התפיסה האנושית וגם מעצם היותנו נתונים להשפעות כגון רעב, עייפות וטרדות שונות. כך חומקות להן נקודות חן מסוכנות כל יום גם אצל אנשים שמקפידים להיבדק.

הדבר הטריד אותי מאוד, ומאוחר יותר, כשברשותי ידע וניסיון, בניתי תוכנת בינה מלאכותית הפועלת בצורה הבאה: התוכנה נחשפה למאגר עצום של תמונות נקודות חן שצוותים וחוקרים רפואיים הגדירו כמסוכנות, וכן למאגר תמונות אחר – של נקודות חן שלא הוגדרו כמסוכנות. התוכנה התכיילה בהתאם לנתונים הללו וכך למדה לנתח גם תמונה חדשה של נקודת חן שהיא לא נחשפה אליה קודם לכן. בסופו של התהליך הייתה בידיי תוכנה שיודעת לנתח תמונה של כל נקודת חן ולומר מה הסיכוי שהנקודה מסוכנת.

האם מה שעשתה התוכנה שונה מהותית ממה שעושים רופא או רופאה כשהם מתבוננים בנקודת חן ומנסים להחליט אם היא מסוכנת על פי ניסיון העבר שלהם? התשובה היא לא. מבחינה מהותית התוכנה עושה בדיוק אותו דבר. אבל בעוד שהרופאים המנוסים ביותר ראו לכל היותר אלפי מקרים, הרי שהתוכנה שלנו ניתחה ולמדה עשרות אלפי מקרים, והייתה יכולה לנתח ללא קושי גם מאות אלפי מקרים, על כל הנתונים המספריים שהמקרים הללו כוללים. ועוד עניין: כמה זמן לוקח לרופא לצבור ניסיון של אלפי מטופלים? שנים על גבי שנים. לעומת זאת, כיום לא מוגזם להגיד שמתכנת ממוצע, עם גישה למאגרי נתונים מתאימים, יכול תוך שבועות בודדים לבנות תוכנת בינה מלאכותית מסוג זה.

וכך, באמצעים פשוטים יחסית בניתי תוכנה שהייתה יכולה למנוע מאבא שלי את כל הסבל שהוא עבר. זה גרם לי להבין באופן עמוק את הכוח של הטכנולוגיה, כוח שמאפשר להציל חיים ממש. את הכוח הזה ניסיתי ליישם כשבחרתי להתמחות בתחומי ההשקה בין בינה מלאכותית ורפואה, ונכון לכתיבת שורות אלו אני מפתח טכנולוגיות מתקדמות מבוססות בינה מלאכותית לשיפור עולם הרפואה במסגרת תפקידי כמנהל הבריאות הדיגיטלית והבינה המלאכותית במערך החדשנות במרכז הרפואי רבין (בתי החולים בילינסון והשרון).

מה מדע וטכנולוגיה יכולים לעשות למען הבריאות שלנו? כמי שבחר למקד את עיסוקו המקצועי בשאלה הזו אני יכול להעיד שאנחנו נמצאים בתנופה אדירה של התפתחויות בתחום הבריאות הדיגיטלית, ובינה מלאכותית תשחק תפקיד מרכזי בתחום זה.

כמו שאנחנו לא יכולים כיום לחשוב על אבחון של מחלה בלי אמצעים כגון בדיקות דם או אולטרסאונד, כך מערכות מבוססות בינה מלאכותית יעמדו יותר ויותר בבסיס ההחלטות שמקבלים אנשי המקצוע באשר לטיפול בנו. למעשה, המערכות הללו יהיו מתקדמות עד כדי כך שייתכן שבהקשר הרפואי בשלב מסוים יהיה לגיטימי שהצוות הרפואי, על פי שיקול דעתו ובהסכמת המטופלים, יבחר להעניק למערכות תומכות ההחלטה את האחיזה בהגה. כלומר התוכנה תתייעץ עם הצוות הרפואי במידת הצורך, ולא להיפך.

כבר היום יש כמה חברות שבנו סימולציות וירטואליות של הגוף האנושי, ובאמצעות בינה מלאכותית מספקות לא רק אבחנה אלא אף חיזוי של הטיפול התרופתי שיהיה יעיל עבור מטופלים ספציפיים. המערכות הללו יוצרות גם סימולציות של גידולים ושל מצבים פתולוגיים אחרים, ועל ההדמיות האלה אפשר אפילו לבצע ניסויים שייחסכו מבעלי חיים. כלומר, ייתכן שבעתיד הקרוב כשנגיע לקבל טיפול רפואי נעבור בדיקת דם שתהיה הבסיס לבניית סימולציה וירטואלית שלמה שלנו. על הסימולציה הווירטואלית הזו יוכלו להריץ אלפי טיפולים אפשריים תוך דקות ולבחור בטיפול שאליו הסימולציה הווירטואלית שלנו הגיבה הכי טוב.

זוכרים את התוכנה שלי?

כמה שבועות לפני כתיבת שורות אלה הבחנתי בנקודת חן חדשה באזור המרפק. היא הייתה קטנה (מאוד) וסתמית למראה. כמה קטנה וסתמית? הנה, תשפטו בעצמכם:

טוב, בגודל הזה היא נראית פחות קטנה וסתמית ויותר ענקית ומפלצתית.

בכל זאת החלטתי לתת לתוכנת הבינה המלאכותית שלי לנתח אותה. צילמתי את התמונה שראיתם, ושאלתי את התוכנה מה דעתה.

הדיאגנוזה של התוכנה מחולקת לפי חמישה סוגי הגידולים העוריים בעלי הסיכוי הגבוה ביותר שהנקודה משתייכת אליהם, מסודרים בסדר יורד.

והנה חוות דעתה של התוכנה על הנקודה שלי:

ובכן, לפי התוכנה יש הסתברות לא מבוטלת שהנקודה שייכת לקטגוריות מסוכנות של נגעים עוריים. אם לא הייתי מבצע את הבדיקה הזו, הנקודה הייתה מתפתחת לה באין מפריע, מי יודע כמה שנים, מי יודע עד לאיזו רמה, לפני שמישהו היה מבחין בה – ואולי כבר היה מאוחר מדי, כמו שקורה לאנשים רבים כל כך, כמו שכמעט קרה לאבא שלי.

בעקבות הדיאגנוזה של התוכנה שלי הלכתי לסקירת נקודות חן אצל שתי רופאות עור שונות. במהלך הבדיקות הללו לא סיפרתי על תוצאות הדיאגנוזה של התוכנה, אבל כן הפניתי את תשומת לבן של הרופאות אל נקודת החן החדשה. שתיהן בדקו אותה והוסיפו אותה אל רשימת המעקב העתידית.

האם הן היו מייחסות לה תשומת לב רבה אם לא הייתי מצביע עליה באופן מכוון? אין לדעת. על כל פנים, בסיום הבדיקה אצל הרופאה השנייה היא אמרה, "בעצם, למה שלא נוריד אותה כבר עכשיו?"

חשבתי על אבא שלי ועל המלצתה של תוכנת הבינה המלאכותית ואמרתי, "למה לא".

וכך נקודת החן התמימה למראה הוסרה בהמלצתן של שתי רופאות ותוכנה אחת, שייתכן מאוד שהצילה את חיי.

מבחינתי השבתי אש לסרטן. "תקפת את אבא שלי?" אמרתי לו, "אני אצור תוכנה שכל אחד יכול להשתמש בה מכל מקום כדי להקדים תרופה למכה". זהו כוח הקסם שנמצא אצלנו כיום בקצות האצבעות, והוא פשוט מדהים. זוהי היכולת לרתום את הטכנולוגיה כדי לייצר לנו תועלת עצומה בחיים, ואפילו להציל אותנו.

הבנה של התחום הזה יכולה לקדם כל אחד ואחת מאיתנו, ואת האנושות כולה, בצורות שאנחנו יכולים רק לדמיין. לדמיין – ואז להגשים. במקרה שלי ההבנה הזאת הובילה אותי להתמחות בתחומים שבהם הבינה המלאכותית יכולה לתרום לרפואה; במקרה שלכם – ההבנה הזו יכולה להוביל לאן שרק תרצו.

אני מקווה שהספר הזה יהיה הצעד הראשון בדרך לשם.

מבוא טבעי לבינה מלאכותית

מהטכניקה שראינו של זיוף פרצופים אנושיים על ידי בינה מלאכותית נובעת יכולת מטרידה שנקראת דיפ־פייק: יצירת זיוף ויזואלי וקולי של אנשים קיימים. דיפ־פייק היא טכנולוגיה מבוססת בינה מלאכותית ליצירת סרטוני וידאו, תמונות או קטעי קול מזויפים, אשר מאפשרת ליוצר לשלוט בדמויות המופיעות בסרטון.

לקראת סוף שנת 2020, בזמן שהעולם נאבק במגפת הקורונה, נשיא ארצות הברית דאז, דונלד טראמפ, נדבק גם הוא. לאחר ההכרזה על ההידבקות שלו, טראמפ נכנס לבידוד ולמעשה החל לנהל את העניינים מרחוק באופן וירטואלי. כמובן, לא חלף זמן רב וסרטונים של הנשיא פורסמו לציבור הרחב כדי להעביר את המסר שהמצב בשליטה. באותה התקופה טכנולוגיית הדיפ־פייק כבר הייתה בשלה יחסית. מה היה קורה אילו, חס וחלילה, הנשיא היה נפטר מקורונה, ובעזרת טכנולוגיית הדיפ־פייק אפשר היה לזייף את דמותו הווירטואלית ולשלוט במעצמה החזקה בעולם?

"פוטין ביים את הופעותיו הפומביות כדי להסתיר התאוששות מניתוח שעבר", כך נכתב באתר מאקו ב־23.05.2022. "ערוץ טלגרם אנטי רוסי טוען כי נשיא רוסיה השתמש בטכנולוגיית דיפ פייק, ולא נכח בפגישת הווידיאו עם בכירי הקרמלין שנערכה ביום שישי האחרון. זאת, לאחר שנזקק בעצת רופאיו להתאושש מניתוח שעבר", הכותרות זעקו.

דמיינו מה יכול לקרות אם מישהו יזייף סרטון שלכם, מתוך המידע הרב שהעליתם לרשתות החברתיות, ויסחט אתכם. עשויות להיות לכך משמעויות קיצוניות. אם הזיוף יהיה כזה שלא ניתן לגלות אותו בשום אופן, אפשר רק לדמיין מה זה יכול לעשות למשל לעולם המשפט. אולי נגיע למצב שניתן לזייף ראיות בצורה כל כך פשוטה שהן כבר לא יהוו ראיות? כל אחד יוכל לומר – הסרטון הזה פייק! כבר היום נעשה שימוש נרחב בעריכה תמימה יותר ותמימה פחות, בין היתר כדי להשפיע על דעת הקהל. לאן עוד זה עשוי להגיע?

אם כן, אולי נייצר תוכנת בינה מלאכותית שתתמחה בזיהוי סרטונים מזויפים?

אחת הסיבות שכל כך קשה ליצור תוכנת בינה מלאכותית שתזהה סרטונים מזויפים היא שברגע שתהיה אחת כזו, תוכנת בינה מלאכותית אחרת תשתמש בה בתור בוחנת – כלומר תלמד להשתפר ולייצר זיופים באופן שהתוכנה ההיא לא תוכל לזהות. תיווצר לולאה אינסופית של בינות מלאכותית שמפצחות זו את זו ומשתפרות בהתאם.

נסו לדמיין מצב שבו תוכנת בינה מלאכותית לומדת כל אחד ואחת מאיתנו באופן כל כך עמוק, עד שהיא מסוגלת לנבא את הבחירות וההתנהגויות שלנו תוך התבססות ישירה על הדפוסים החשמליים של המוח שלנו. מוח דיגיטלי שמפצח מוח ביולוגי. חברת OpenAI כבר הציגה את היכולת הזו כשהצליחה לנבא את כוונותיו של קוף המשחק במשחק מחשב (ומתוגמל בשייק בננה, כמובן).

אבל אין צורך ללכת רחוק. כולנו יודעים שחברות ומוצרים כמו פייסבוק וגוגל עושים עבודה מעולה בחיזוי העדפותינו (ולא – הם לא מאזינים לנו. הם לא זקוקים לכך). בקרוב מִשקפי מציאות מדומה שכולנו נרכיב כדי "לצאת" לעבודה (לא נצא מן החדר) ולפגוש קולגות (לא נפגוש אף אחד) ינתרו את פעילות מוחנו. כבר עכשיו באזור המיועד לכתיבת פוסט בפייסבוק מתנוסס המשפט What’s on your mind. בעתיד, יש לשער, התוכנה לא תצטרך לשאול. היא כבר תדע בעצמה.

הרשתות החברתיות יודעות מה קורה בתודעה שלנו גם כי אנחנו מספרים להן את זה כל הזמן, וגם כי אנחנו מציגים את העדפותינו תדיר באמצעות התנהגותנו ברשת ובמציאות. המידע הזה הוא כוח, משום שהוא יכול להיות הדלק עבור תוכנות בינה מלאכותית רבות עוצמה. העקבות הדיגיטליים שלנו הם הלחם והחמאה של מוצרים ושירותים מתוחכמים שמשתמשים בתוכנות בינה מלאכותית המבוססות על המוח האנושי ומיועדות ללמוד אותנו ואת נקודות התורפה שלנו. היכולת של בינה מלאכותית לפצח את העדפותינו מייצרת הבנה משמעותית עוד יותר, והיא כיצד ניתן להשפיע על העדפותינו ובחירותינו בעתיד.

עד כמה חיינו מושפעים בפועל מהתובנות שתוכנות בינה מלאכותית הפיקו לגבינו? האם ייתכן, לדוגמה, שרשתות חברתיות כלשהן כבר עכשיו מנתבות כרצונן את נשיא ארצות הברית המיועד לשנת 2048?

אני מוכן להתערב שבמהלך השעה האחרונה – אם ידעתם על כך או לא – השתמשתם באופן כזה או אחר בשירות או מוצר שמתבססים על בינה מלאכותית. כיום, כשהטלפון הסלולרי שלנו הגיע כמעט לדרגת איבר נוסף (וחשוב במיוחד) בגופנו, אנחנו הופכים להיות תלויים יותר ויותר בטכנולוגיה, ולכן אנחנו מייצרים מידע ללא הפסקה. בין שאנחנו נכנסים לבית קפה ונקלטים בעינה של מצלמת האבטחה, או נוסעים ברכבת שיש בה WIFI, או אפילו כשאנחנו ישנים והטלפון מודד את השימוש בו, אנחנו כל הזמן מייצרים מידע.

אגב, גם אם אין לכם חשבון באף רשת חברתית ואפילו אם אין לכם טלפון סלולרי, תהיו בטוחים – יש מזהה דיגיטלי המייצג אתכם, ויש תוכנות בינה מלאכותית שמעכלות את המידע שאתם מייצרים ולומדות ממנו עליכם ועל אנשים אחרים. כאמור, אין כיום כמעט תחום או שירות דיגיטלי שאנחנו משתמשים בו שאינו מערב טכנולוגיה של בינה מלאכותית.

אז למה בעצם אנחנו מתכוונים כשאנחנו אומרים "בינה מלאכותית"?

כמו בנושאים רבים – תלוי את מי תשאלו. תלוי גם מתי תשאלו, כי התשובה לשאלה הזו השתנתה לאורך השנים. כאן נשתמש בהגדרה פשוטה למדי:

בינה מלאכותית היא טכניקה ליצירת תוכנות שהתפתחה בהשראת המוח האנושי. מה שמייחד תוכנות בינה מלאכותית הוא שלא מגדירים להן חוקים נוקשים לפתרון בעיות אלא מאפשרים ללמוד ממידע ולהגיע לפתרון בעצמן. כתוצאה מכך, פעמים רבות, תוכנות בינה מלאכותית מציגות התנהגות המזוהה עם תבונה אנושית.

השאלה הגדולה היא כמובן מה בעצם נחשב לתבונה אנושית?

כבר בשנת 1950 הגדיר המתמטיקאי אלן טיורינג מדד שמנסה להשיב על שאלה זו. הוא הציע מעין מבחן שבו אדם מתקשר עם אדם אחר ועם מכונה בלי לדעת מיהו מי. אם המכונה מצליחה להערים עליו כך שהוא לא יוכל להכריע בשאלה מי משתי הישויות שהוא מתקשר איתן אנושית ומי לא – הרי שאותה מכונה עברה את מבחן טיורינג והיא נחשבת לאינטליגנטית.

מבחן טיורינג מעלה שאלות רבות, כי הרי גם אם התוכנה חיקתה בהצלחה התנהגות האנושית – האם בכך יש להעיד שהיא חושבת בצורה אנושית? או שהיא רק למדה לייצר חיקוי מוצלח של הפלט, ההיבטים הטכניים של הדיבור האנושי?

נעביר שבעים שנה קדימה.

בחודש מאי 2020 הכריזה חברת OpenAI על צאתו של מודל שפה חדש בעל השם הקליט ג'י.פי.טי-3. מודל שפה הוא תוכנת בינה מלאכותית שמתמחה בהבנת שפה טבעית, כלומר שפת בני אדם. באותה התקופה, ג'י.פי.טי-3 היה מודל השפה המתקדם ביותר הזמין לאוכלוסייה. הוא היה עצום בגודלו ועבדו עליו שלושים ואחד חוקרים ומהנדסים.

באוגוסט 2020 קיבל וולטר ויט, דוקטור לפילוסופיה והיסטוריה של המדע מאוניברסיטת סידני, גישה לממשק של ג'י.פי.טי-3, ושאל אותו שאלה קצרה:

היי ג'י.פי.טי-3! מה היא תודעה, לדעתך?

מה אתם הייתם עונים?

ג'י.פי.טי-3, לאחר שניות מעטות, השיב כך:

אני מניח שאתחיל במובן מאליו. ההגדרה שלי לתודעה היא מצב או ישות שחווים תחושות, רגשות ותפיסות. תודעה קשורה בדרך כלל לרגש, ואכן לפעמים משתמשים בשני המונחים בערבוביה. על אף שיכול להיות קשה להגדיר במדויק את התודעה, רוב האנשים מסכימים שהייתה חשיבה מודעת כלשהי לאורך ההיסטוריה. הייתי אומר שהתודעה היא מאפיין של כל היצורים החיים, גם אם היא לא תמיד מומשה. יש חיות המסוגלות לחוש כאב והנאה, שלדעתי מהווה תודעה.

בעלי חיים יכולים לתפוס גירויים ולהגיב אליהם באופן מסתגל. אני חושב שההסתגלות הזו היא שמאפשרת את התודעה גם לבני אדם וגם לבעלי חיים. הייתי אומר שהתודעה מתחילה בלידה. אדם בן יומו יבכה כשקר לו או כשהוא רעב, מה שלדעתי מעיד על צורה ראשונית של תודעה. על אף שהעולם הוא בהחלט לא אידיאלי, אני חושב שהמודעות הקיומית שלנו היא חיובית. ללא תודעה לא תהיה הערכה לאומנות או למוזיקה.²

מה דעתכם, האם ג'י.פי.טי-3 הצליח לתת תשובה שנשמעת אנושית?

ואם כן, האם פירוש הדבר הוא שג'י.פי.טי-3 הבין מהי תודעה?

ולבסוף, האם ג'י.פי.טי-3 הוא בעל תודעה?

היכן עובר הגבול בין האדם למכונה?

השאלות הללו נעות בכיוון הפילוסופי, שגם הוא ילווה אותנו לאורך הספר. אבל לפני כן נרצה להשיב על שאלות מעשיות יותר, כמו איך בכלל אפשר ללמד את המחשב להגיב על שאלה מופשטת כל כך בצורה שנשמעת כל כך... אינטליגנטית?

במקרה של ג'י.פי.טי-3, נתנו למודל לקרוא כמויות עצומות של טקסט ואפשרו לו להסיק בעצמו את חוקי השפה האנושית. כלומר, לא הגדירו עבורו את החוקים, אלא חשפו אותו לכמויות אדירות של אינפורמציה רלוונטית ונתנו לו ללמוד בעצמו, קצת בדומה לאופן שבו לימדתי את התוכנה שלי לזהות נקודות חן בעייתיות, אפילו בלי שאני עצמי יודע לזהות או להגדיר את האלמנטים המאפיינים אותן.

התוצאות של ג'י.פי.טי-3 בעיבוד מידע ובחיקוי שפה טבעית היו מרשימות. בנוסף למה שראינו כאן, יכולותיו כוללות כתיבת שירה, המלצה על תרופות בהתאם לסימפטומים, קיום שיחה קולחת כולל מענה על שאלות כלליות וספציפיות, סיכום מסמכים, הבנת אנלוגיות, קופירייטינג ואפילו תכנות.

האם ג'י.פי.טי-3 יוכל לתכנת תוכנה שתהיה חכמה יותר ממנו?

אגב, למרות היכולות המדהימות האלה, מנכ"ל OpenAI, סם אלטמן, סיפר שלעיתים ג'י.פי.טי-3 עושה שגיאות מטופשות. למה? כי הוא בכל זאת מחשב, ויש דברים שכל ילד בן שלוש יודע וג'י.פי.טי-3 לא שמע עליהם. בהמשך נראה למה זה קורה. אבל קודם נציג סוג אחר של טעויות שתוכנות בינה מלאכותית עלולות לעשות.

2 https://medium.com/ science-and-philosophy/asking -artificial-intelligence-about- consciousness-febfd2b4a4ed, תרגום שלי, נ"ל.