נקסוס

פתח דבר

קראנו למין שלנו הומו סאפיינס — האדם הנבון. אבל אפשר להתווכח אם אנחנו באמת ראויים לשם הזה.

אין ספק שבמהלך 100 אלף השנים האחרונות אנחנו הסאפיינסים צברנו כוח אדיר. צריך ספר שלם רק בשביל למנות את כל התגליות, ההמצאות והכיבושים שלנו. אבל כוח איננו תבונה, ואחרי 100 אלף שנים של תגליות, המצאות וכיבושים האנושות הביאה את עצמה למשבר קיומי. שימוש לרעה בכוחנו שלנו הביא אותנו לסף קריסה אקולוגית. אנחנו גם עסוקים בלהמציא טכנולוגיות כמו בינה מלאכותית, שעלולות לצאת משליטתנו ולשעבד או לחסל אותנו. ובמקום שהמין שלנו יתאחד כדי להתמודד עם האתגרים הקיומיים הללו, המתיחות הבינלאומית רק עולה, שיתוף הפעולה העולמי מתערער, מדינות אוגרות כלי נשק להשמדה המונית, ומלחמת עולם חדשה כבר לא נשמעת בלתי אפשרית.

אם אנחנו הסאפיינסים כל כך נבונים, למה אנחנו כל כך טיפשים?

ברובד עמוק יותר, אומנם צברנו המון מידע על הרבה דברים, ממולקולות דנ"א ועד גלקסיות רחוקות, אבל כל המידע הזה לא נתן לנו תשובות לשאלות הגדולות של החיים: מי אנחנו? לְמה עלינו לשאוף? מהם חיים טובים, ואיך עלינו לחיות אותם? למרות כמויות המידע העצומות העומדות לרשותנו, אנו שוגים בפנטזיות ובאשליות לא פחות מאנשי עידן האבן. הנאציזם והסטליניזם הם רק שתי דוגמאות בולטות לטירוף ההמוני שלפעמים משתלט גם על חברות מודרניות. ברור שלבני האדם היום יש הרבה יותר מידע וכוח מאשר בעידן האבן, אבל ספק אם אנחנו מבינים את עצמנו ואת תפקידנו ביקום טוב יותר.

למה אנחנו כל כך טובים בלצבור מידע וכוח, אבל הרבה פחות טובים בלפתח תבונה? במהלך ההיסטוריה, מסורות רבות סברו שיש פגם קטלני בטבע האנושי שמפתה אותנו לרדוף אחרי כוחות שאנחנו לא יודעים לשלוט בהם. לדוגמה, המיתוס היווני על פאיתון, סיפר על ילד שמגלה שהוא בנו של הליוס, אל השמש. כדי להוכיח את מוצאו האלוהי, פאיתון דורש לעצמו את הזכות לנהוג במרכבת השמש. הליוס מזהיר את פאיתון שאף אדם לא יכול לשלוט בסוסים השמימיים שמושכים את מרכבת השמש, אבל פאיתון מתעקש ומנדנד, עד שאל השמש נכנע. פאיתון דוהר בגאווה בשמיים, אבל תוך זמן קצר הוא מאבד שליטה על המרכבה. השמש סוטה ממסלולה, שורפת את הצמחייה, הורגת יצורים רבים מספור, ומאיימת להעלות באש את כדור הארץ כולו. רגע לפני שהעולם נחרב זאוס מתערב, ומכה בפאיתון בברק. בן האנוש היהיר צונח מהשמיים כמו כוכב נופל, כשהוא אפוף להבות. האלים מחזירים לעצמם את השליטה בשמיים, ומצילים את העולם.

2,000 שנה מאוחר יותר, כאשר המהפכה התעשייתית עשתה את צעדיה הראשונים ומכונות התחילו להחליף בני אדם ביותר ויותר עבודות, יוהן וולפגנג פון גתה כתב סיפור עם מוסר השכל דומה, בשם "שוליית הקוסם". הטקסט של גתה (שזכה לפרסום בגרסת האנימציה של וולט דיסני, בה מככב מיקי מאוס) מספר על קוסם זקן שמשאיר את הסדנה שלו תחת אחריותו של שוליה צעיר. הקוסם גם נותן לשוליה כמה משימות לבצע, כמו להביא מים מהנהר. השוליה מחליט לעשות לעצמו חיים קלים, ומשתמש באחד הלחשים של הקוסם כדי לכשף מטאטא שיביא עבורו את המים. אבל השוליה לא יודע איך לעצור את המטאטא, שממשיך להביא עוד ועוד מים ומאיים להציף את הסדנה. השוליה המבוהל לוקח גרזן ושובר לשניים את המטאטא המכושף — רק כדי לראות איך כל חצי הופך למטאטא שלם. עכשיו שני מטאטאים מכושפים מציפים את הסדנה במים. כשהקוסם הזקן חוזר, השוליה מתחנן לעזרה: "זימנתי רוחות, שאינני יודע איך להיפטר מהן!" הקוסם מיד מבטל את הכישוף ועוצר את השיטפון. הלקח לשוליה — ולאנושות — ברור: אסור לנו לזמן כוחות שאנחנו לא יודעים איך לשלוט בהם.

מהו המסר של סיפורי פאיתון ו״שוליית הקוסם״ לאנשי המאה ה־21? הרי ברור שסירבנו להקשיב לאזהרות שלהם. כבר הוצאנו את האקלים של כדור הארץ מאיזון, וכבר זימנו לכאן מיליארדי מטאטאים מכושפים, רחפנים, צ'אטבוטים ורוחות אלגוריתמיות אחרות שעלולות לצאת משליטתנו ולהמיט עלינו מבול של תוצאות בלתי צפויות. אז מה עושים עכשיו?

האגדות לא מציעות שום תשובה מלבד לחכות לאיזה אל או קוסם שיבואו להציל אותנו. זהו מסר מסוכן מאוד, כי הוא מעודד אנשים להרים ידיים ולשים את אמונם באלים ובקוסמים. גרוע מכך, האגדות הללו מסתירות מעינינו את העובדה שאלים וקוסמים הם בעצמם המצאה אנושית — בדיוק כמו מרכבות, מטאטאים ואלגוריתמים. הנטייה האנושית להמציא דברים רבי־עוצמה שגורמים לתוצאות בלתי צפויות התחילה לא עם המצאת מנוע הקיטור או הבינה המלאכותית, אלא עם המצאת הדת. נביאים ותיאולוגים זימנו שוב ושוב רוחות עוצמתיות שהיו אמורות למלא את העולם באהבה ושמחה, אבל איכשהו הציפו את העולם בדם.

הסיפורים על פאיתון ועל שוליית הקוסם לא נותנים לנו עצות מועילות, כי הם מנתחים בצורה שגויה את האופן שבו בני אדם צוברים כוח. שני הסיפורים מתמקדים באדם בודד שבאורח פלא משיג לעצמו כוח עצום, ואז נופל קורבן ליהירות ולתאוות בצע. המסקנה, לכאורה, היא שהפסיכולוגיה האישית שלנו פגומה, והיא שגורמת לנו להשתמש לרעה בכוח. אבל הניתוח הזה מטעה. אנשים בודדים אף פעם לא משיגים בעצמם כוח עצום. בקרב בני האדם, כוח תמיד נובע משיתוף פעולה בין הרבה פרטים. בהתאם לכך, זו לא הפסיכולוגיה האישית שלנו שמביאה אותנו להשתמש לרעה בכוח. אחרי הכול, לצד תאוות בצע, יהירות ואכזריות, בני האדם גם מסוגלים לאהבה, חמלה, ענווה ושמחה. זה נכון שבקרב בני מיננו הגרועים ביותר, תאוות הבצע והאכזריות שולטות בכיפה. אבל למה שקבוצות אנושיות יבחרו להפקיד את הכוח דווקא בידי חבריהן הגרועים ביותר? רוב הגרמנים ב־1933, למשל, לא היו פסיכופתים. אז מדוע רבים הצביעו להיטלר?

הנטייה שלנו לזמן כוחות שאנחנו לא יכולים לשלוט בהם, לא נובעת מהפסיכולוגיה של אנשים בודדים, אלא מהאופן הייחודי שבו בני מיננו משתפים פעולה במספרים גדולים. הטיעון המרכזי של הספר הזה הוא שהאנושות צוברת כוח עצום על ידי בניית רשתות שיתוף פעולה גדולות, אך הדרך שבה אנו בונים את הרשתות האלה היא שגורמת להן להשתמש בכוח לרעה. הבעיה שלנו היא בעיה של רשתות.

ליתר דיוק, זו בעיה של מידע. מידע הוא הדבק שמחזיק רשתות יחד. אבל במשך עשרות אלפי שנים סאפיינסים טוו רשתות גדולות על ידי המצאה והפצה של בדיות, פנטזיות ואשליות המוניות — על אלים, על מטאטאים מכושפים, על בינה מלאכותית, ועל דברים רבים אחרים. ברמת הפרט, רובנו רוצים לדעת את האמת על עצמנו ועל העולם; אבל רשתות גדולות יוצרות סדר חברתי בעזרת בדיות ופנטזיות. זה מה שהביא אותנו, למשל, לנאציזם ולסטליניזם. אלו היו רשתות חזקות במיוחד שחוברו על ידי רעיונות מעוותים במיוחד. כפי שג'ורג' אורוול ניסח זאת, בורות היא כוח.

העובדה שהמשטר הנאצי והמשטר הסטליניסטי הושתתו על פנטזיות אכזריות ושקרים בוטים לא אומרת שהם היו חריגים היסטוריים שנידונו מראש לכישלון. הנאציזם והסטליניזם היו שתיים מהרשתות העוצמתיות ביותר שהאנושות אי פעם יצרה. בשלהי 1941 ובראשית 1942, כוחות הציר היו קרובים לניצחון במלחמת העולם השנייה. בסופו של דבר יצא סטלין כמנצח הגדול מהמלחמה,1 ובשנות ה־50 וה־60 היה לו וליורשיו סיכוי סביר לנצח גם במלחמה הקרה. אומנם הסטליניזם בסוף קרס ונראה היה לרגע שהדמוקרטיה הליברלית בלתי מנוצחת, אבל במבט לאחור זה נראה עכשיו כמו ניצחון זמני בלבד. במאה ה־21 ייתכן בהחלט שמשטר טוטליטרי חדש יצליח היכן שהיטלר וסטלין נכשלו, ויטווה רשת עוצמתית עד כדי כך, שהיא לא רק תשתלט על העולם אלא גם תמנע מדורות עתידיים אפילו לנסות לחשוף את השקרים והבדיות שלה. אסור לנו להניח שרשתות שמבוססות על אשליות נידונות בהכרח לכישלון. אם אנחנו רוצים למנוע את ניצחונן של רשתות כאלה, נצטרך לעבוד קשה.

התפיסה הנאיבית של המידע

קשה לנו להעריך את עוצמתן האדירה של אשליות, בשל אי־הבנה רחבה יותר לגבי איך רשתות מידע גדולות פועלות. לאי־הבנה זו אפשר לקרוא "התפיסה הנאיבית של המידע". בעוד שהמיתוס של פאיתון וסיפור ״שוליית הקוסם״ מציעים מבט פסימי מדי על הפסיכולוגיה האישית של בני האדם, התפיסה הנאיבית של המידע מפיצה אופטימיות מוגזמת ביחס לרשתות אנושיות גדולות.

התפיסה הנאיבית אומרת שרשתות גדולות יכולות לאסוף ולעבד הרבה יותר מידע ממה שיכולים אדם יחיד או קהילה קטנה, ולכן הן מבינות טוב הרבה יותר רפואה, פיזיקה, כלכלה וכו'. זה עושה את הרשת לא רק חזקה יותר, אלא גם חכמה יותר. כך, למשל, על ידי איסוף מידע על פתוגנים, חברות התרופות ושירותי הבריאות יכולים לזהות את הגורמים למחלות רבות, וכך לפתח תרופות יעילות יותר ולהשתמש בהן בצורה נבונה יותר. טענה זו מניחה שמידע בכמות מספקת מוביל בהכרח לאמת, והאמת בתורה מובילה הן לכוח והן לתבונה. בּורוּת, לעומת זאת, לא מובילה לשום מקום. אומנם ברגעי משבר היסטוריים עשויות להיווצר רשתות של אשליות ושקרים, אך בטווח הארוך נגזר עליהן להפסיד ליריבים מפוכחים וכנים יותר. שירות בריאות שמתעלם ממידע על פתוגנים, או ענק־תרופות שמפיץ בכוונה מידע כוזב, סופם שיפסידו בתחרות מול יריבים שעושים שימוש נבון יותר במידע. התפיסה הנאיבית סבורה שרשתות של אשליות הן טעות חריגה, ושבדרך כלל אפשר לסמוך על רשתות גדולות שיפעילו את כוחן בתבונה.

כמובן שהתפיסה הנאיבית מכירה בכך שדברים רבים יכולים להשתבש בדרך מהמידע אל האמת. אנו עשויים לעשות טעויות כנות באיסוף ועיבוד המידע. גורמים זדוניים שמונעים מתאוות בצע או משנאה עלולים להסתיר עובדות חשובות, או לנסות להטעות אותנו. כתוצאה מכך, מידע לפעמים מוביל לטעות ולא לאמת. למשל, מידע חלקי, ניתוח שגוי או הפצה מכוונת של מידע כוזב יכולים לגרום אפילו למומחים לטעות בזיהוי הגורם למחלה זו או אחרת.

עם זאת, התפיסה הנאיבית סבורה שהתרופה לרוב הבעיות שאנו נתקלים בהן באיסוף ועיבוד מידע היא עוד מידע. אומנם אנחנו לעולם לא מוגנים לחלוטין מפני טעויות, אבל על פי רוב יותר מידע משמעו דיוק רב יותר. סיכויי ההצלחה של רופאה אחת המנסה לזהות גורם למגֵפה על ידי בדיקת מטופל אחד, קטנים בהרבה מסיכוייהם של אלפי רופאות ורופאים שאוספים מידע על מיליוני מטופלים. ואם הרופאים עצמם קושרים קשר להסתיר את האמת, העמדת המידע הרפואי לרשות הציבור הרחב והעיתונות החוקרת תחשוף בסופו של דבר את התרמית. לפי גישה זו, ככל שרשת המידע גדולה יותר, כך היא כנראה קרובה יותר לאמת.

שיבושים ייתכנו גם בדרך מהאמת אל התבונה. אפילו אם ננתח את המידע במדויק ונגלה אמיתות חשובות, זה לא מבטיח שנשתמש בתגליות החדשות שלנו בתבונה. מקובל לחשוב שתבונה פירושה "לקבל החלטות נכונות". אבל מהן בדיוק החלטות "נכונות"? הרי לתרבויות ולאידיאולוגיות שונות יש ערכים שונים. מדענים שמגלים וירוס חדש עשויים להשתמש בידע הזה כדי לפתח חיסון שיציל מיליונים. אבל אם המדענים — או שליטיהם הפוליטיים — מאמינים באידיאולוגיה גזענית, הם עלולים להשתמש באותו ידע רפואי כדי לפתח נשק ביולוגי ולהרוג מיליונים.

גם במקרה זה, התפיסה הנאיבית מניחה שהפתרון לבעיה הוא עוד מידע. התפיסה הנאיבית חושבת שמחלוקות על ערכים נגרמות על ידי מחסור במידע או הפצת מידע כוזב. לפי גישה זו, גזענים הם אנשים שנחשפו למעט מדי מידע מהימן, ופשוט לא יודעים את העובדות על הביולוגיה וההיסטוריה של האנושות. הם חושבים ש"גזע" הוא קטגוריה ביולוגית תקפה, והם מאמינים בכל מיני תיאוריות קונספירציה מופרכות. אם כך, התרופה הטובה ביותר לגזענות היא לספק לאנשים עוד ועוד עובדות ביולוגיות והיסטוריות. זה עשוי לקחת זמן, אבל בשוק חופשי של מידע האמת בסופו של דבר תנצח.

התפיסה הנאיבית היא כמובן מורכבת ומעמיקה הרבה יותר ממה שניתן להסביר בכמה פסקאות, אבל העיקרון המרכזי שלה הוא שמידע זה דבר טוב במהותו, וככל שיש לנו יותר ממנו — כך ייטב. אם רק יהיה לנו מספיק מידע ומספיק זמן, נגלה את האמת על כל דבר, החל מזיהומים ויראליים וכלה בהטיות גזעניות, וכך נפתח לא רק את הכוח שלנו, אלא גם את התבונה הנדרשת כדי להשתמש בכוח לטובה.

התפיסה הנאיבית הזו מצדיקה את החיפוש הבלתי פוסק אחר טכנולוגיות מידע חזקות יותר, והיא האידיאולוגיה הרשמית־למחצה של עידן המחשב והאינטרנט. ביוני 1989, חודשים ספורים לפני נפילת חומת ברלין ומסך הברזל, הכריז רונלד רייגן כי "הגוליית של שליטה טוטליטרית יוכרע במהירות על ידי הדור של השבב" וכי "המשטרים הרודניים ביותר ניצבים חסרי אונים אל מול טכנולוגיית התקשורת ... מידע הוא החמצן של העידן המודרני ... הוא חודר מבעד לחומות וגדרות התיל. הוא חוצה גבולות מחושמלים וממוקשים. משבים של קרניים אלקטרוניות חולפים מבעד למסך הברזל כאילו היה תחרה."2 בנובמבר 2009 דיבר ברק אובמה ברוח דומה בעת ביקור בשנגחאי, ואמר למארחיו הסינים, "אני מאמין גדול בטכנולוגיה ואני מאמין גדול בפתיחות בכל הנוגע לזרימת מידע. אני חושב שככל שהמידע זורם בחופשיות רבה יותר, כך החברה חזקה יותר."3

גם יזמים ותאגידים נוטים להביע דעות אופטימיות דומות לגבי טכנולוגיית המידע. כבר ב־1858 נכתב במאמר מערכת של העיתון "ניו אינגלנדר" על המצאת הטלגרף ש"לא ייתכן שדעות קדומות ופעולות איבה יוסיפו להתקיים, אחרי שנוצר מכשיר כזה לחילופי רעיונות בין אומות העולם."4 שתי מאות שנים ושתי מלחמות עולם מאוחר יותר, אמר מארק צוקרברג שמטרתה של פייסבוק היא "לעזור לאנשים לשתף יותר כדי לעשות את העולם פתוח יותר, ולקדם הבנה בין בני אדם."5

בספרו משנת 2024 "הסינגולריות מתקרבת", סוקר העתידן והיזם ריי קורצווייל את ההיסטוריה של טכנולוגיית המידע, וקובע כי "המציאות היא שכמעט כל היבט של החיים משתפר בהתמדה כתוצאה מהשיפור האקספוננציאלי של הטכנולוגיה." קורצוויל מתבונן על מהלך ההיסטוריה האנושית, ומביא דוגמאות כמו המצאת מכונת הדפוס כדי לטעון שמעצם טבעה טכנולוגיית המידע נוטה ליצור "מעגל קסמים חיובי המקדם את רווחת האנושות כמעט מכל בחינה, כולל אוריינות, השכלה, עושר, סניטציה, בריאות, דמוקרטיזציה והפחתת האלימות."6

הביטוי התמציתי ביותר לתפיסה הנאיבית של המידע הוא האופן שבו מגדירה גוגל את מטרתה: "לארגן את המידע של העולם, ולעשות אותו נגיש ושימושי לכולם." תשובתה של גוגל לאזהרה של גתה היא שאומנם שוליה אחד שגונב את ספר הכשפים הסודי של אדונו עלול להמיט אסון, אבל אם המוני שוליות יזכו לגישה חופשית לכל המידע בעולם, הם לא רק ייצרו מטאטאים מכושפים מועילים, אלא גם ילמדו להשתמש בהם בתבונה.

גוגל נגד גתה

הרבה פעמים יותר מידע באמת עוזר לבני האדם להבין טוב יותר את העולם, ולהשתמש בכוחם בתבונה. דוגמה מובהקת היא הירידה הדרמטית בתמותת הילדים. יוהן וולפגנג פון גתה היה הבכור בין שבעה ילדים, אך רק הוא ואחותו קורנליה זכו לחגוג את יום הולדתם השביעי. מחלות הרגו את אחיהם הרמן יקוב בגיל שש, את אחותם קתרינה אליזבט בגיל ארבע, את אחותם יוהנה מריה בגיל שנתיים, את אחיהם גיאורג אדולף בגיל שמונה חודשים, ואח חמישי שלא זכה לשֵם מת בלידתו. גם קורנליה מתה ממחלה בגיל 26, וכך נותר יוהן וולפגנג השורד היחיד ממשפחתם.7

ליוהן וולפגנג פון גתה עצמו היו חמישה ילדים, כולם — פרט לבכור אוגוסט — מתו בתוך שבועיים מלידתם. הסיבה הייתה כנראה אי־התאמה בין קבוצות הדם של גתה ושל אשתו כריסטיאנה. לאחר ההיריון המוצלח הראשון, אי־ההתאמה הזו גרמה לכריסטיאנה לפתח נוגדנים לדם העוּבּר. מצב זה, שנקרא מחלת רֶזוּס, מטופל היום ביעילות רבה, כך ששיעור התמותה הממוצע קטן מ־2 אחוזים. אך בתקופתו של גתה עמד שיעור התמותה הממוצע ממחלת רזוס על 50 אחוז, ולארבעת ילדיו הצעירים של גתה הייתה מחלה זו גזר דין מוות.8

בסך הכול במשפחת גתה — משפחה גרמנית אמידה בשלהי המאה ה־18 — שיעור ההישרדות של הילדים עמד על 25 אחוז בלבד. מבין שנים־עשר ילדים, רק שלושה זכו להגיע לבגרות. הסטטיסטיקה המחרידה הזאת לא הייתה חריגה. בתקופה שבה כתב גתה את "שוליית הקוסם" רק כ־50 אחוז מהילדים הגרמנים הגיעו לגיל חמש־עשרה,9 וכך היה כנראה גם בשאר חלקי תבל.10 לעומת זאת, נכון לשנת 2020, 95.6 אחוז מילדי העולם זוכים להגיע ליום הולדתם החמישה־עשר,11 ובגרמניה נתון זה עומד על 99.5 אחוז.12 האנושות לא הייתה מגיעה להישג האדיר הזה בלי איסוף, ניתוח ושיתוף של הררי נתונים רפואיים על דברים כמו קבוצות דם. במקרה זה, התפיסה הנאיבית של המידע התגלתה כנכונה לגמרי.

אלא שההיסטוריה של העידן המודרני אינה מתמצה רק בהורדת שיעורי תמותת הילדים, ויש חלקים רבים בתמונה ההיסטורית שהתפיסה הנאיבית של המידע מתקשה להסביר. בדורות האחרונים חוותה האנושות את העלייה הגדולה בהיסטוריה הן בכמות המידע והן במהירות הזרימה שלו. כל טלפון חכם מכיל יותר מידע מזה שנאצר בספרייה המפורסמת של אלכסנדריה הקדומה,13 וכל טלפון כזה גם מקשר את בעליו למיליארדי בני אדם אחרים. אז למה, כשכל כך הרבה מידע נפוץ במהירות כה גדולה, האנושות קרובה יותר מאי־פעם להשמיד את עצמה?

למרות — ואולי בגלל — מטמוני המידע האדירים שלנו, אנחנו מוסיפים לפלוט גזי חממה אל האטמוספרה, לזהם נהרות וימים, לכרות יערות, להרוס בתי גידול שלמים, להכחיד אין־ספור מינים ולערער את הבסיס האקולוגי לקיומו של המין שלנו. אנחנו גם מפתחים עוד ועוד כלי נשק להשמדה המונית, החל בפצצות תרמו־גרעיניות וכלה בווירוסים קטלניים. למנהיגים שלנו לא חסר מידע על הסכנות הללו, אך במקום לשתף פעולה במציאת פתרונות, הם מקרבים אותנו אל סף מלחמת עולם חדשה.

האם עוד מידע יפתור את הבעיות האלה — או יחמיר אותן? בקרוב נגלה. ממשלות ותאגידים רבים מתחרים כיום במרוץ לפתח את טכנולוגיית המידע החזקה בהיסטוריה — הבינה המלאכותית (AI). לא מעט יזמים, כגון המשקיע האמריקני מרק אנדריסן (Andreessen), מאמינים שהבינה המלאכותית תפתור את כל הבעיות שלנו. ב־6 ביוני 2023 פירסם אנדריסן מאמר שכותרתו "מדוע הבינה המלאכותית תציל את העולם". המאמר מלא הצהרות נועזות כמו, "אני כאן כדי לבשר את החדשות הטובות: הבינה המלאכותית לא תהרוס את העולם, ולמעשה עשויה להציל אותו," ו"הבינה המלאכותית יכולה לשפר כל מה שיקר לליבנו." לסיכום, קובע אנדריסן, "הפיתוח וההפצה של הבינה המלאכותית הם לא אִיום שיש לחשוש מפניו, אלא חובה מוסרית שלנו לעצמנו, לילדינו ולעתידנו."14

ריי קורצווייל מסכים עם אנדריסן וטוען בספרו "הסינגולריות מתקרבת" כי "הבינה המלאכותית היא טכנולוגיה חלוצית שתאפשר לנו להתמודד עם האתגרים הדחופים הניצבים לפנינו, בהם התגברות על מחלות, על עוני, על ההרס הסביבתי ועל כל החולשות האנושיות שלנו. יש לנו ציווי מוסרי להגשים את ההבטחה הזו, שטמונה בטכנולוגיות החדשות." אומנם קורצווייל מודע היטב גם לסכנות הטמונות בבינה המלאכותית, ומנתח אותן באריכות, אך המסקנה שלו היא שניתן להתגבר על כולן.15

אחרים ספקנים יותר. לא רק פילוסופים ואנשי מדעי החברה, אלא גם רבים מגדולי המומחים והיזמים בתחום הבינה המלאכותית — כמו למשל ג'ושוע בנג'יו (Bengio), ג'פרי הינטון (Hinton), סם אלטמן (Altman), אילון מאסק (Musk) ומוסטפא סולימן (Suleyman) — הזהירו את הציבור שהבינה המלאכותית עלולה להרוס את הציוויליזציה שלנו.16 מאמר שפורסם בשנת 2024, פרי עטם של בנג'יו, הינטון ומומחים אחרים, מציין כי "התקדמות בלתי מבוקרת של הבינה המלאכותית עלולה להוביל לאובדן מסיבי של חיים ושל הביוספרה, ולדחיקת האנושות לשוליים או אף להכחדתה."17 בסקר שנערך בשנת 2023 בקרב 2,778 חוקרי בינה מלאכותית, יותר משליש מהנשאלים נתנו סיכוי של 10 אחוזים או יותר לכך שהתקדמות הבינה המלאכותית תוביל לתוצאות קטסטרופליות ברמה של השמדת המין האנושי.18 ב־2023 גם חתמו כמעט 20 ממשלות — בהן אלה של סין, ארצות הברית ובריטניה — על הצהרת בּלֶצ'לי בנושא בינה מלאכותית, המכירה בכך ש"היכולות החשובות ביותר של הבינה המלאכותית, נושאות בחובן פוטנציאל לנזק חמור ואף קטסטרופלי, מכוון או בלתי מכוון."19 כשהם משתמשים במונחים אפוקליפטיים שכאלה, מומחים וממשלות לא רוצים לעורר אצלנו דימויים הוליוודיים של רובוטים רצחניים המשוטטים ברחובות ויורים בבני אדם. תרחיש כזה אינו סביר, והוא רק מסיח את דעתנו מהסכנות האמיתיות. במקום זאת, המומחים והממשלות מבקשים להזהיר אותנו מפני שני תרחישים אחרים.

ראשית, כוחה של הבינה המלאכותית עלול להעצים סכסוכים קיימים ולפצל את האנושות. כשם שבמאה ה־20 הפריד מסך הברזל את המעצמות היריבות במלחמה הקרה, כך במאה ה־21 מסך הסיליקון — שעשוי שבבי סיליקון וקודים של מחשב במקום תיל דוקרני — עלול לפצל בין מעצמות יריבות בעימות גלובלי חדש. מרוץ חימוש בתחום הבינה המלאכותית יביא להמצאתם של כלי נשק יותר ויותר הרסניים, ודי יהיה בניצוץ אחד כדי להמיט על האנושות שואה.

שנית, מסך הסיליקון עשוי לחצוץ לא רק בין קבוצות יריבות של בני אדם, אלא גם בין כל בני האדם לבין אדונינו החדשים — הבינות המלאכותיות. לא משנה באיזו מדינה נגור, החיים שלנו ינוהלו על ידי רשת מסועפת של אלגוריתמים שנשגבים מבינתנו. האלגוריתמים האלה יעצבו מחדש את הפוליטיקה והתרבות שלנו, ואפילו יהנדסו את הגוף והנפש שלנו — ואילו אנחנו לא נוכל יותר להבין אותם ולשלוט בהם. אם במאה ה־21 תצליח רשת טוטליטרית לכבוש את העולם, מי שינהלו אותה עשויים להיות לא רודנים בשר ודם דוגמת היטלר וסטלין, אלא בינות לא־אנושיות. מי שהסיוטים שלהם על עליית הטוטליטריזם מתמקדים בסין, ברוסיה, או בקריסת הדמוקרטיה האמריקנית, מחמיצים את הסכנה הגדולה באמת. הפוטנציאל הטוטליטרי של הבינה המלאכותית מאיים על סינים, רוסים, אמריקנים וכל יתר בני האדם גם יחד.

מאחר שהסכנה היא כל כך גדולה, יש סיבה לכל בני האדם להתעניין בבּינה המלאכותית. כמובן שלא כולנו יכולים להפוך למומחים בתחום. אך יש כמה דברים שכדאי לכולנו לדעת על הבינה המלאכותית. הדבר שהכי חשוב לדעת, זה שהבינה המלאכותית היא הטכנולוגיה הראשונה בהיסטוריה שיכולה לקבל החלטות וליצור רעיונות חדשים בכוחות עצמה. כל ההמצאות האנושיות הקודמות העצימו את בני האדם, משום שלא משנה כמה חזק היה המכשיר החדש שהמצאנו, ההחלטות על השימוש בו תמיד נותרו בידינו. סכינים ופצצות לא מחליטים בכוחות עצמם את מי להרוג. אלו כלים חסרי בינה. לעומת זאת, לבינה המלאכותית יש יכולת לעבד מידע בעצמה, ועל ידי כך להחליף אותנו בתהליכי קבלת החלטות. הבינה המלאכותית היא לא מכשיר — היא סוכן עצמאי.

תודות לשליטתה במידע, הבינה המלאכותית יכולה גם להמציא רעיונות חדשים בתחומים רבים, החל ממוזיקה וכלה ברפואה. גרמופונים השמיעו את המוזיקה שלנו, ומיקרוסקופים חשפו את סודות התאים שלנו; אך הגרמופונים לא היו יכולים לחבר סימפוניות חדשות, ומיקרוסקופים לא היו יכולים לסנתז תרופות חדשות. הבינה המלאכותית מסוגלת ליצור בעצמה אמנות ולהגיע לתגליות מדעיות חדשות. בעשורים הבאים סביר שהיא תוכל גם לברוא צורות חיים חדשות, על ידי כתיבת צופן גנטי או המצאת קוד לא־אורגני שיפיח חיים בישויות לא־אורגניות.

אפילו עכשיו, כשמהפכת הבינה המלאכותית נמצאת רק בחיתוליה, המחשבים כבר מקבלים הרבה החלטות על החיים שלנו — כגון אם לתת לנו משכנתה, אם לקבל אותנו לעבודה, ואם לשלוח אותנו לכלא. בעשורים הקרובים המגמה הזאת רק תתגבר ותואץ. האם כדאי לסמוך על אלגוריתמים ממוחשבים שיקבלו החלטות נבונות וישפרו את העולם ואת החיים שלנו? זה הימור גדול פי כמה מלהסתמך על מטאטא מכושף שיביא מים מהנהר. ואנחנו לוקחים פה הימור לא רק על החיים שלנו, אלא על עתידן של כל צורות החיים בכדור הארץ ואף מעבר לו.

המידע כנשק

בשנת 2015 הוצאתי לאור את הספר "ההיסטוריה של המחר", שבחן כמה מהסכנות הנשקפות לאנושות מטכנולוגיות המידע החדשות. הספר טען כי הגיבור האמיתי של ההיסטוריה היה מאז ומעולם המידע, ולא המין האנושי. מדענים מבינים יותר ויותר לא רק היסטוריה אלא גם ביולוגיה, פוליטיקה וכלכלה במונחים של זרימת מידע. בעלי חיים, מדינות ושווקים הם כולם רשתות מידע שקולטות נתונים מן הסביבה, מקבלות החלטות, ופולטות חזרה נתונים. הספר גם הזהיר כי בניגוד לתקווה שטכנולוגיית המידע החדשה תעניק לנו בריאות, אושר וכוח, למעשה היא עלולה ליטול מאיתנו את כוחנו ולערער את הבריאות הגופנית והמנטלית שלנו. המסקנה של "ההיסטוריה של המחר" הייתה שאם בני האדם לא יישמרו, אנחנו עלולים להתמוסס במבול המידע כמו גוש עפר בנהר שוצף, ושהאנושות עשויה להתגלות כלא יותר מאדווה קלה בזרם הנתונים הקוסמי.

בשנים שחלפו מאז פרסום "ההיסטוריה של המחר" קצב השינוי רק הואץ, ובני האדם אכן החלו לאבד את כוחם לטובת האלגוריתמים. רבים מהתרחישים שנשמעו מדע בדיוני בשנת 2015 — כמו אלגוריתמים שיכולים ליצור אמנות, להתחזות לבני אדם, לקבל החלטות חיוניות על חיינו, ולדעת עלינו יותר משאנו יודעים על עצמנו — הם כבר מציאות יומיומית ב־2024.

דברים רבים נוספים השתנו מאז 2015. המשבר האקולוגי החריף, המתיחות הבינלאומית הסלימה, וגל פופוליסטי עירער את יציבותן של דמוקרטיות בכל רחבי העולם. הפופוליזם גם הציב אתגר רדיקלי לתפיסה הנאיבית של המידע. מנהיגים פופוליסטים דוגמת דונלד טראמפ (Trump) וז'איר בּוֹלסונארו (Bolsonaro), ותיאוריות קשר פופוליסטיות כמו אלו של חסידי קיואנון (QAnon) ומתנגדי החיסונים, לא חושבים שמידע מוביל לאמת. להפך, הם טוענים שכל המוסדות המסורתיים שמתיימרים לאסוף מידע כדי לגלות את האמת, בעצם משקרים לנו. מומחים, שופטים, רופאים, עיתונאים ואקדמאים הם כולם, לכאורה, אליטות זדוניות. אין להם עניין בגילוי הָאמת, אלא הם מפיצים שקרים כדי לצבור לעצמם כוח וזכויות יתר על חשבון "העם". טראמפ וקיואנון עלו בהקשר פוליטי ייחודי לארצות הברית של ראשית המאה ה־21. אבל חשוב להבין שהפופוליזם כהשקפת עולם אנטי ממסדית קדם בהרבה לטראמפ, והוא מופיע לאורך ההיסטוריה בנסיבות רבות ומגוונות. מה שמשותף לכל התנועות והמנהיגים הפופוליסטיים, זה שהם חושבים שמידע הוא כלי נשק.20

בגרסאות הקיצוניות ביותר שלו, הפופוליזם קובע שפשוט אין דבר כזה "אמת אובייקטיבית", ושלכל אדם יש "אמת משלו", שמשמשת כלי נשק להכנעת יריבים פוליטיים. על פי השקפת העולם הזאת, כוח הוא המציאות היחידה. כל היחסים החברתיים הם מאבקי כוח, משום שבני האדם מעוניינים אך ורק בכוח. אם יש אנשים שטוענים שהם מתעניינים במשהו אחר — כמו באמת או בצדק — זה רק תכסיס שבעצמו נועד להשיג להם עוד כוח. בכל מקום שהפופוליזם מצליח להפיץ את הרעיון שמידע הוא נשק, אפילו השפה מתערערת. שמות עצם כמו "עובדות" ומילות תואר כמו "מדויק" ו"אמיתי" מאבדים את משמעותם. מילים אלו כבר לא מצביעות על מציאות אובייקטיבית המשותפת לכולם. במקום זאת, כל דיבור על "עובדות" ועל "אמת" מיד מעורר את השאלה: "העובדות של מי? האמת של מי?"

התפיסה הספקנית והכוחנית הזאת היא לא תופעה חדשה, והיא לא הומצאה בידי אנשים שמתנגדים לחיסונים, שחושבים שכדור הארץ שטוח, או שתומכים בפוליטיקאים כגון בולסונארו וטראמפ. עמדות דומות הועלו הרבה לפני 2015 בידי כמה מהמוחות המבריקים ביותר של האנושות.21 כך, למשל, בשלהי המאה ה־20 טענו אינטלקטואלים מהשמאל הרדיקלי, כמו מישל פוקו (Foucault) ואדוארד סעיד (Said), שמוסדות מדעיים כמו בתי חולים ואוניברסיטאות לא שואפים לגלות אמיתות אובייקטיביות, אלא רק מנצלים את כוחם כדי לקבוע מה נחשב אמת, בשירותן של אליטות קפיטליסטיות וקולוניאליסטיות. הביקורות הרדיקליות הללו הרחיקו לכת עוד יותר, וטענו שכל דיבור על "עובדות מדעיות" הוא "שיח" קפיטליסטי או קולוניאליסטי. בעלי הכוח אף פעם לא מתעניינים בָּאמת, ואי אפשר לסמוך עליהם להכיר בטעויות שלהם ולנסות לתקן אותן.22

קו חשיבה רדיקלי זה חוזר כמובן אל קרל מרקס (Marx). כבר במאה ה־19 טען מרקס שכוח הוא המציאות היחידה, שמידע הוא נשק, ושאליטות שטוענות כי הן משרתות את האמת והצדק לא משרתות שום דבר חוץ מהפריביליגיות המעמדיות שלהן. במילותיו של "המניפסט הקומוניסטי" משנת 1848: "דברי ימיה של כל חברה עד כה הם דברי הימים של מאבקים מעמדיים. בן חורין ועבד, פטריקי ופלבאי, אדון וצמית, אומן ושוליה, בקיצור — מנצלים ומנוצלים עמדו בניגוד מתמיד זה מול זה, וניהלו מאבק בלתי פוסק, לעיתים נסתר ולעיתים גלוי."¹ על פי הפרשנות הבינארית הזאת של ההיסטוריה, יחסים בין בני אדם הם תמיד מאבקי כוחות בין מדכאים למדוכאים. לפיכך, בכל פעם שמישהו אומר משהו, השאלה שיש לשאול אינה, "מה נאמר? האם זו אמת?" אלא, "מי אמר את זה? את הפריבילגיות של מי זה משרת?"

הפופוליסטים מימין, כמו טראמפ ובולסונארו, לא קראו מן הסתם את פוקו או את מרקס. אדרבא, הם מציגים עצמם כאנטי מרקסיסטים קנאים. הם גם נבדלים מאוד מהמרקסיסטים במדיניות שלהם בתחומים כמו מיסוי או רווחה. אך השקפת העולם הבסיסית שלהם על החֶברה האנושית ועל המידע היא מרקסיסטית להפתיע, כי גם הם סבורים שיחסים בין בני אדם הם תמיד מאבקי כוח בין מדכאים למדוכאים. כך, לדוגמה, בנאום ההשבעה שלו ב־2017 הכריז טראמפ, כי "קבוצה קטנה בבירת ארצנו קָצרה את פירות השלטון, בזמן שהעם משלם את המחיר."23 רטוריקה כזו היא תמצית הפופוליזם, שאיש מדע המדינה קאס מוּדה (Mudde) תיאר כ"אידיאולוגיה שבעיניה החֶברה נחלקת לשתי קבוצות הומוגניות ויריבות: 'העם הטהור' מול 'האליטה המושחתת'."24 כפי שהמרקסיסטים טענו שהתקשורת משמשת שופר למעמד הקפיטליסטי, ושמוסדות מדע כמו אוניברסיטאות מפיצים מידע כוזב כדי להנציח את השליטה הקפיטליסטית, כך הפופוליסטים מאשימים את אותם מוסדות בדיוק שהם פועלים לקידום האינטרסים של "האליטה המושחתת" על חשבון "העם".

הפופוליסטים של ימינו גם סובלים מאותו חוסר עקביות שאפיין את התנועות האנטי ממסדיות הקיצוניות של הדורות הקודמים. אם אומנם כוח הוא המציאות היחידה, ואם מידע אינו אלא כלי נשק, מה זה אומר על הפופוליסטים עצמם? האם גם הם מעוניינים רק בכוח? והאם גם הם משקרים לנו כדי להשיג כוח?

הפופוליסטים מנסים לחלץ את עצמם מהבעיה הזו בשתי דרכים. יש תנועות פופוליסטיות הטוענות כי הן לבדן דבקות באידיאלים של המדע המודרני ובמסורות של אמפיריציזם ספקני. לטענתן, אסור לנו לסמוך על שום מוסד או דמות סמכותית — כולל מפלגות ופוליטיקאים פופוליסטיים — ובמקום זאת אנחנו חייבים "לחקור הכול בעצמנו"25 ולסמוך אך ורק על מה שנגלה בעצמנו. על פי עמדה ספקנית זו, למרות שאסור לנו לסמוך על מוסדות גדולים, כמו מפלגות פוליטיות, בתי משפט, עיתונים או אוניברסיטאות, אם נתאמץ עדיין נוכל לגלות את האמת בכוחות עצמנו.

גישה זו עשויה להישמע מדעית ולקסום לאנשים בעלי רוח חופשית, אבל היא לא מסבירה איך הרבה בני אדם יכולים לשתף פעולה כדי להקים מערכות בריאות או להעביר תקנות סביבתיות — דברים שדורשים מוסדות גדולים. האם אדם בודד יכול לבצע בעצמו את כל המחקר הנדרש כדי לקבוע אם האקלים בכדור הארץ מתחמם, ומה יש לעשות בנוגע לכך? כיצד יוכל אותו אדם לאסוף מידע אקלימי מכל קצות העולם, ועל אחת כמה וכמה להשיג נתונים מהימנים מלפני מאות שנים? הסתמכות בלעדית על "המחקר שלי" אולי נשמעת מדעית, אבל היא שקולה לאמונה שאין דבר כזה אמת אובייקטיבית. כפי שנראה בפרק 4, המדע הוא לא מפעל אישי, אלא מאמץ מוסדי משותף.

פתרון פופוליסטי חלופי הוא לנטוש לגמרי את האידיאל המדעי של גילוי האמת בעזרת מחקר, ולחזור להסתמך על מיסטיקה ועל אמונה בהתגלות אלוהית. דתות מסורתיות כמו הנצרות, האסלאם וההינדואיזם מאפיינות את בני האדם כיצורים תאבי כוח שאינם ראויים לאמון, ושיכולים לגלות את האמת רק תודות לעזרה משמיים. בעשורים השני והשלישי של המאה ה־21 כרתו מפלגות פופוליסטיות רבות, מברזיל ועד טורקיה ומארצות הברית ועד הודו, ברית עם דתות מסורתיות שכאלה. בעוד שהפופוליסטים הללו מביעים ספקות קיצוניים ביחס למוסדות מודרניים, הם מצהירים על אמון מלא בכתבי הקודש העתיקים. הם טוענים שהמאמרים ב"ניו יורק טיימס" או בעיתונות המדעית הם מזימה אליטיסטית לצבור כוח, אבל מה שאנחנו קוראים בתנ"ך, בקוראן או בוֶודוֹת זו אמת מוחלטת.26

וריאציה נוספת על הרעיון הזה היא לבקש מבני האדם לשים את מבטחם לא במוסדות בירוקרטיים אלא במנהיגים כריזמטיים דוגמת טראמפ או בולסונארו, המתוארים בפי תומכיהם כשליחי האל27 או כבעלי קשר מיסטי עם "העם". הפופוליסטים טוענים שפוליטיקאים "רגילים" משקרים לעם כדי להשיג כוח, אבל המנהיג הכריזמטי הוא המושיע והשופר של העם, שלעולם לא טועה ושחושף את כל השקרים.28 אחד הפרדוקסים של הפופוליזם זה שפופוליסטים מזהירים אותנו מפני אליטות תאבות כוח, ואז נותנים את כל הכוח בידי אדם אחד שאפתן במיוחד.

בפרק 5 נבחן יותר לעומק את הפופוליזם, אך כבר בשלב זה חשוב לציין שהפופוליסטים שוחקים את האמון במוסדות גדולים ובשיתופי פעולה בינלאומיים דווקא בשעה שהאנושות מתמודדת עם אתגרים קיומיים של קריסה אקולוגית, מלחמה גלובלית, וטכנולוגיה המאיימת לצאת משליטה. במקום לסמוך על מוסדות אנושיים, הפופוליסטים נותנים לנו את אותה עצה כמו מיתוס פאיתון וכמו "שוליית הקוסם": שימו את מבטחכם באל או בקוסם שיבוא להציל אותנו ולהחזיר את הכול לקדמותו. אם נקבל את העצה הזאת, אנחנו עלולים למצוא את עצמנו בטווח הקרוב תחת שליטתם של קומץ בני אדם תאבי כוח, ובטווח הארוך — תחת שליטתם של אדונים חדשים, לא אנושיים. ואולי לא נמצא את עצמנו בשום מקום, כי כדור הארץ כבר לא יהיה מתאים יותר לחיי אדם.

אם אנחנו לא רוצים לוותר על הכוח שלנו לטובת מנהיג כריזמטי או בינה מלאכותית עלומה, אנחנו צריכים להבין טוב יותר מהו מידע, איך הוא עוזר ליצור רשתות אנושיות, ומה בדיוק הקשר בינו לבין אמת וכוח. הפופוליסטים צודקים בחשדנות שלהם כלפי התפיסה הנאיבית של המידע, אך הם טועים לחשוב שכוח הוא המציאות היחידה, ושמידע הוא בסך הכול כלי נשק. נכון, המידע הוא לא חומר הגלם של האמת, אבל זה לא אומר שהוא רק נשק. יש די הרבה מרחב בין שתי העמדות הקיצוניות האלה. ספר זה מוקדש לחקירת המרחב הזה, מתוך שאיפה לפתח גישה מאוזנת יותר כלפי רשתות המידע האנושיות, שתעזור לנו להשתמש בכוח שלנו בתבונה.

תקציר הפרקים הבאים

החלק הראשון של הספר סוקר את ההתפתחות של רשתות המידע האנושיות עד כה. זו אינה היסטוריה מפורטת של המצאות כגון הכתב, הדפוס והרדיו. תחת זאת, נתמקד בהבנת הדילמות המרכזיות שבני האדם נתקלו בהן בכל פעם שהם ניסו ליצור רשת מידע גדולה. תשובות שונות לדילמות הללו עיצבו חברות שונות. מה שאנו נוהגים לראות כסכסוכים אידיאולוגיים ופוליטיים, מתגלה לא פעם כעימותים בין מודלים יריבים של זרימת מידע.

חלק זה נפתח בבחינה של שני עקרונות חיוניים לרשתות מידע גדולות: המיתולוגיה והבירוקרטיה. פרקים 2 ו־3 מתארים כיצד רשתות מידע גדולות, כגון ממלכות, כנסיות ומדינות, הסתמכו מצד אחד על מיתוסים ומצד שני על בירוקרטים. סיפורי הברית החדשה, למשל, היו חיוניים לכנסייה הנוצרית, אבל הברית החדשה עצמה נוצרה על ידי בישופים, תיאולוגים ופקידי כנסייה שערכו והפיצו את הספר הזה. דילמה קשה לכל רשת אנושית היא שהמיתוסים שלה מושכים לכיוון אחד, אבל הבירוקרטים נוטים למשוך לכיוון אחר. לא קל למצוא את נקודת האיזון. הכנסייה הנוצרית עצמה התפצלה לכנסיות יריבות — כמו הכנסייה הקתולית והכנסייה הקלוויניסטית — שכל אחת העדיפה איזון שונה בין המיתולוגיה והבירוקרטיה.

פרק 4 עובר להתמקד בבעיית הטעות. איך מתמודדות רשתות מידע עם שגיאות ושקרים? הרשת יכולה ליצור ולקיים מנגנונים לתיקון־עצמי — כמו בתי המשפט העצמאיים של מדינות דמוקרטיות, או שיטת ביקורת העמיתים של כתבי העת המדעיים. פרק זה משווה מוסדות בעלי מנגנוני תיקון־עצמי חלשים, כמו הכנסייה הקתולית, עם מוסדות שפיתחו מנגנוני תיקון־עצמי חזקים, כמו דיסציפלינות מדעיות. מנגנוני תיקון־עצמי חלשים מוליכים לא פעם לאסונות היסטוריים, כמו ציד המכשפות באירופה של העת החדשה המוקדמת; אבל גם למנגנוני תיקון־עצמי חזקים עשוי להיות מחיר גבוה, כי הם עלולים לערער את הרשת מבפנים. אם לשפוט במונחים של אריכות ימים, תפוצה וכוח, הכנסייה הקתולית מתגלה כאחד המוסדות המצליחים ביותר בתולדות האנושות, למרות — ואולי בזכות — החולשה היחסית של מנגנוני התיקון שלה.

לאחר שהחלק הראשון סוקר את התפקיד שמילאו המיתולוגיה והבירוקרטיה, ואת הניגוד בין מנגנוני תיקון חזקים לחלשים, פרק 5 מסיים את הדיון ההיסטורי על ידי התמקדות בניגוד נוסף — בין רשתות מידע מבוזרות לריכוזיות. רשתות דמוקרטיות מעודדות את המידע לזרום בחופשיות לאורך ערוצים עצמאיים רבים, ואילו רשתות טוטליטריות שואפות לרכז את כל המידע במקום אחד. לכל שיטה יש יתרונות וחסרונות. כשמנתחים מערכות פוליטיות כמו הדמוקרטיה האמריקנית והטוטליטריזם הסובייטי במונחים של זרימת מידע, אפשר להבין טוב יותר את מסלולי ההתפתחות השונים שלהן.

החלק הראשון של הספר חיוני לא רק להבנת העבר, אלא גם להבנת ההתפתחויות העכשוויות והתסריטים העתידיים בפניהם אנו עומדים. עליית הבינה המלאכותית היא כנראה מהפכת המידע הגדולה בהיסטוריה, אבל לא נוכל להבין אותה אלא אם נשווה אותה לקודמותיה. ההיסטוריה היא לא חקר העבר; היא חקר השינוי. ההיסטוריה מלמדת אותנו מה נשאר אותו דבר, מה משתנה, וכיצד בדיוק דברים משתנים. זה רלוונטי למהפכות מידע כמו לכל סוג אחר של שינוי. לדוגמה, אם נלמד איך התנ"ך הפך לספר קדוש שלכאורה אף פעם לא טועה, זה יקל עלינו להעריך את הפנטזיות העכשוויות על יצירת בינה מלאכותית שאף פעם לא טועה. בדומה, מחקרים על ציד המכשפות בעת החדשה המוקדמת ועל הטוטליטריזם הסובייטי במאה ה־20 מספקים אזהרות חשובות על סוג הדברים שעלולים להשתבש במאה ה־21 אם ניתן לבינה המלאכותית שליטה רבה מדי על חיינו. ההיסטוריה כמובן מלמדת אותנו לא רק במה דומה הבינה המלאכותית לתופעות ישנות, אלא גם מדוע היא שונה מהותית מטכנולוגיות קודמות כמו מכונת הדפוס או הרדיו, ומדוע דיקטטורה של בינות מלאכותיות עלולה להיות גרועה יותר מכל משטר רודני שהכרנו בעבר.

הספר כמובן לא טוען שחקר העבר מאפשר לנו לנבא את העתיד. כפי שמודגש שוב ושוב בדפים הבאים, ההיסטוריה אינה דטרמיניסטית, והעתיד יעוצב על ידי הבחירות שכולנו נעשה בשנים הקרובות. שווה לכתוב או לקרוא ספר מסוג זה רק אם מאמינים שאנחנו עוד יכולים להשפיע על הכיוון בו הולכת ההיסטוריה. אם אנחנו לא יכולים לשנות את העתיד, בשביל מה לדבר עליו?

בהסתמך על הסקירה ההיסטורית של החלק הראשון, חלקו השני של הספר — "הרשת הלא־אורגנית" — בוחן את רשת המידע החדשה שאנו יוצרים היום, ומתמקד בהשלכות הפוליטיות של עליית הבינה המלאכותית. כדי להסביר באילו דרכים הבינה המלאכותית שונה מכל טכנולוגיות המידע הקודמות, פרקים 8-6 דנים בדוגמאות מגוונות, כמו למשל השפעת האלגוריתמים של פייסבוק על גל האלימות האתנית ששטף את מיאנמר בשנים 2017-2016. מרבית הדוגמאות נלקחו מאירועים שהתרחשו לפני כעשור, ולא מהשנה־שנתיים האחרונות, כדי שתהיה לנו איזושהי פרספקטיבה היסטורית עליהם.

חלק ב' טוען שאנו יוצרים כרגע רשת מידע מסוג חדש לגמרי, בלי להבין את ההשלכות. בפרט, חלק ב' מדגיש את האופי הלא־אורגני של רשת המידע החדשה. האימפריה הרומית, הכנסייה הקתולית וברית המועצות הסתמכו על מוחות אורגניים כדי לעבד מידע ולקבל החלטות. רשת המידע החדשה מתבססת על מחשבים לא־אורגניים, שפועלים בצורה שונה לגמרי. לטוב ולרע, שבבי הסיליקון לא כפופים להרבה מהמגבלות שמטילה הביוכימיה האורגנית על נוירונים מפחמן. שבבי הסיליקון יכולים ליצור מרגלים שלא ישנים, בנקאים שלא שוכחים, ורודנים שלא מתים. איך זה הולך לשנות את החברה, הכלכלה והפוליטיקה?

החלק השלישי והאחרון של הספר — "הפוליטיקה של המחשבים" — סוקר איך חברות מסוגים שונים עשויות להתמודד עם האיומים וההבטחות של הרשת הלא־אורגנית. כיצד יוכלו יצורים אורגניים כמונו להבין את רשת המידע החדשה, ולהשפיע על ההתפתחות שלה? כפי שצוין לעיל, ההיסטוריה אינה דטרמיניסטית, ולפחות לעוד כמה שנים עדיין יש לנו סיכוי לעצב את עתידנו.

בהתאם לכך, פרק 9 בוחן את השפעתה של הרשת הלא־אורגנית על דמוקרטיות. כיצד, למשל, יוכלו פוליטיקאים אנושיים לקבל החלטות כלכליות אם המערכת הפיננסית תנוהל על ידי בינה מלאכותית, ואם אלגוריתמים מסתוריים יקבעו את ערך הכסף? כיצד נוכל להמשיך לקיים דיאלוגים דמוקרטיים כשבלתי אפשרי לדעת, אם אנחנו משוחחים עם בן אנוש או עם בוט?

פרק 10 בוחן את השפעתה של הרשת הלא־אורגנית על משטרים דיקטטוריים. לרודנים כמובן לא אכפת אם הבינה המלאכותית תחסל את הדמוקרטיה, אבל יש לרודנים פחדים משלהם מהטכנולוגיה החדשה. כדי לשמור על מעמדו, כל רודן זקוק ליכולת להפחיד ולצנזר את הכפופים לו. אבל איך יוכל דיקטטור בשר ודם להפחיד בינה מלאכותית, לצנזר את האלגוריתמים העלומים שלה, או למנוע ממנה למרוד בו?

לבסוף, פרק 11 בוחן כיצד הרשת הלא־אורגנית החדשה תשפיע על מאזן הכוחות בין דמוקרטיות לדיקטטורות ברמה הגלובלית. האם הבינה המלאכותית תטה את הכף לטובת מחנה אחד? האם העולם יתפצל לגושים עוינים שהיריבות ביניהם תהפוך את כל בני האדם לטרף קל במיוחד לבינה המלאכותית? או שאולי נצליח בכל זאת להתאחד כדי להגן על האינטרסים המשותפים שלנו?

אבל לפני שנחקור את העבר, ההווה והעתיד של רשתות המידע, עלינו להתחיל בשאלה פשוטה לכאורה. מה זה, בעצם, מידע?

הערות:

1 תרגום: משה בן חורין, הוצאת עיון, 1979.