מכונת השוויון

הקדמה למהדורה העברית

קוראות וקוראים יקרים,

המציאות החדשה שלנו היא מציאות של מלחמה, של סכסוכים אזוריים ושל שסעים פנימיים עמוקים. דפי ספר זה גדושים סיפורים על אומץ לב ועל תבונת המוח האנושי; דווקא בימים אפלים אלה אנחנו יכולים - וכדאי לנו - לרתום את התקווה ואת ההשראה לשימוש בטכנולוגיה ככוח מניע לעתיד טוב יותר.

אמנם כתבתי את הספר לפני האירועים הטרגיים של ה־7 באוקטובר 2023, אבל גם בעת כתיבתו הייתי חדורת הבנה עמוקה באשר לטבעה של הטכנולוגיה - שתמיד היתה, ותמיד תהיה, חרב פיפיות. במבוא לספר תיארתי את הרקע הצבאי שלי ביחידה 8200 כראש מה שנקרא אז "חוליית אוטונומיה". כבר בימים המוקדמים ההם של האינטרה־נט ושל בסיסי הנתונים הדיגיטליים, הכרנו ביכולתה האדירה של הטכנולוגיה להעצים תובנות ופעולות אנושיות - ולפעמים גם להחליף אותן. ה־7 באוקטובר היה תזכורת טרגית לכך שהטכנולוגיה כשלעצמה, על כל כוחה האדיר, לא תגן עלינו מפני כוחות הרשע וההרס. הגורם האנושי עדיין עומד, וחייב לעמוד, בלב הדמוקרטיה ובלבו של כל שוק כלכלי אחראי ומשגשג.

מכונת השוויון פורסם באנגלית לראשונה בשלהי 2022, במקביל להשקת המודל הראשון של ChatGPT על ידי Open AI. הספר והמציאות הגלובלית מממשיכים מאז להתפתח ולהתנהל תוך שיח סוער. עתה, עם הוצאתה לאור של המהדורה העברית, אפשר להבחין ללא קושי בהתפתחויות המהירות והרבות שעברה הבינה המלאכותית. אנחנו חיים בעולם משתנה תדיר שבו מהפכת הטכנולוגיה - ובמיוחד המהפכה בתחומי הבינה המלאכותית, הרובוטיקה והאוטומציה - משנה את האופנים שבהם אנחנו עובדים, לומדים, משחקים ומטפלים בעצמנו ובאחרים; היא משנה אפילו את האופנים שבהם אנחנו מתאהבים ומתנהלים בתוך המשפחה. ממערכות לזיהוי פנים ועד לאמצעים ביומטריים, מטאוורס ומציאות מדומה, מביג דאטה ורשתות חברתיות ועד מטבעות וירטואליים ובינה מלאכותית יוצרת - כל המהפכות הטכנולוגיות האלה משנות לא רק את אורח חיינו כי אם גם את הערכים שלנו ואת המבנים החברתיים שיצרנו.

רמת הפיתוח הטכנולוגי לנפש בישראל מתחרה בזו של מרכזים טכנולוגיים מובילים בכל רחבי העולם, לרבות עמק הסיליקון ו"חוף הביוטק" - האזור שבו אני מתגוררת בדרום קליפורניה. זה אומר שישראל יכולה - וחייבת, למעשה - להפוך גם למובילה עולמית באתיקה של סינרגיות אדם־מכונה וברתימת הבינה המלאכותית לעשייה מיטיבה. אכן, אין לנו ברירה אלא להסתמך על פיתוחים טכנולוגיים להבטחת רווחתנו ובטיחותנו, וכן להתמודדות עם העוולות שהטכנולוגיה מסייעת בהנצחתן, ומעל לכול - להגנה על ערכינו הדמוקרטיים וההומניסטיים.

כפי שכל כותב או כותבת מקווים כשהם מוציאים ספר לאור, "מכונת השוויון" כבר פרש כנפיים והצית שיח משלו. המגזין "אקונומיסט" בחר בו כספר השנה שלו והוא קיבל שבחים וביקורות מהללות בכל רחבי העולם (המגזין Science: "כתוב היטב"). חברות ומוסדות מחקר מובילים - ובהם מקינזי, Metlife, ג'ונסון אנד ג'ונסון ו-Boston Consulting Group, סטנפורד, הרווארד, ברקלי וייל - הכניסו את הספר לרשימות הקריאה המומלצות שלהם. בקיץ 2023 היה לי הכבוד לשאת את נאום הפתיחה בפסגת הבינה המלאכותית של האו"ם בז'נבה, לצד יובל נוח הררי. כמו כן ייצגתי באותה שנה את הפורום הכלכלי העולמי של מדינות 7G בכנס Digital Transformation ביפן ונשאתי דברים בפגישות רמות דרג באיחוד האירופי, בארצות הברית ובכל רחבי העולם. היה לי העונג לייעץ גם לממשלות וגם לחברות טכנולוגיה במגזר הפרטי כיצד לרתום את הטכנולוגיה הדיגיטלית ליצירת עתיד טוב יותר.

במרס 2024 הוזמנתי על ידי ממשלת ישראל לדבר על בינה מלאכותית. נפגשנו בקריית הממשלה בתל אביב ובמשרדי רשות הפיקוח על הבנקים עם נציגים ממשרד המשפטים, משרד האוצר ורשות ניירות ערך. שמחתי והתמלאתי תקווה בעקבות הפגישות עם עובדי ציבור רבים כל כך, אשר מקדישים את חייהם המקצועיים להגנה על עקרונות היסוד שבבסיס הקמתה של המדינה הדמוקרטית שלנו גם כאשר - או במיוחד כאשר - נדמה שהפוליטיקאים שכחו כבר את אותם עקרונות. עובדי ציבור אלה, ואיתם אנשי עסקים מובילים, אנשי טכנולוגיה, פעילים חברתיים, יוצרים, אמנים וחוקרים, מבינים את נחיצות השימוש בנתונים דיגיטליים, בינה מלאכותית ורובוטיקה לצורך שמירה על היתרון התחרותי הכלכלי של ישראל. הם מבינים, כאמור, את הצורך ורואים גם את היתרונות הטמונים בפיתוח טכנולוגיות הנחוצות כדי לשמר את רווחתה החברתית, ביטחונה ואת מחויבותה לדמוקרטיה.

מכונת השוויון רואה אור בצומת אירועים מכריע בדברי ימי ישראל - מדינה זעירה שהיא מנוע עולמי של חדשנות טכנולוגית, ואשר מאבקים ביטחוניים ופוליטיים קשים מעצבים את חיי היום־יום בה מאז ומתמיד. ישראל הרוויחה ביושר את הכינוי "אומת הסטארט־אפ": ממדבר צייה צמחה כבאורח נס למעצמה מרשימה, אוקיינוס בוהק של טכנולוגיה וחדשנות. ביחס הפוך לממדיה הגיאוגרפיים ולגודל אוכלוסייתה, ישראל היא מוקד של פריצות דרך טכנולוגיות גדולות - מאבטחת מידע ובינה מלאכותית ועד ביוטכנולוגיה ואנרגיה ירוקה. הרוח היזמית הטבועה בתרבות הישראלית, לצד תמיכה אדירה של הממשלה ושל משקיעים פרטיים, מניעות את המערכת האקולוגית הזאת ומזינות אותה. אבל גם ישראל, כמדינות אחרות, מתמודדת עם ההשלכות המוכרות של הקישוריות הדיגיטלית: תפוצה רחבה של מידע מוטעה ומטעה, חדשות כזב והקצנה בכל רחבי העולם. כפי שתיארתי בספר, השירות שלי בצה"ל, לצד העבודה שלי בבית המשפט העליון ובמוסדות אקדמיים ישראליים, וכן בחברות פרטיות כמו Fiverr, עיצבה את חזוני בנוגע ליישום טכנולוגיות באופן שמקדם את הביטחון, את הבטיחות ואת טובת הציבור.

האתגרים הביטחוניים ממשיכים להשפיע על כל היבט בחיים בישראל. לא מדובר רק בביטחון פיזי מיידי; אתגרים אלה משפיעים עמוקות גם על הכלכלה ועל המרקם החברתי: על האופן שבו אנחנו מדברים, מחנכים, מתקנים שגיאות, נלחמים על האמיתות שלנו, צוברים ידע ומגבשים נקודות מבט. לקוראים הישראלים הספר עשוי לספק נרטיב מעניין שיהדהד עמוק בלבבות: השאלה היא איך אפשר ליישם את הטכנולוגיה, ובפרט את הבינה המלאכותית, ככלי שישרת לא רק את הביטחון הלאומי אלא גם את היציבות החברתית, את הצמיחה הכלכלית ואת איכות החיים ככלל. איך תוכל ישראל להמשיך ולשגשג כמובילה בתחום החדשנות, ובה בעת להבטיח שהיתרונות הטכנולוגיים ישרתו את כל המגזרים באוכלוסייה ויתרמו למרוץ האוטומציה הגלובלי? איך יוכל עם פצוע־אך־נחוש להחלים ולשאוף למכנה משותף טוב יותר? אם נמנף בתבונה את היכולות הדיגיטליות והמחשוביות החדשות שלנו, הן יוכלו להיות חלק מהבסיס לחברה שוויונית ומכלילה יותר - ונס אומת הסטארט־אפ יבשיל למסע בוגר יותר לעבר חברה צודקת לעתיד לבוא.

ספר זה הוא הזמנה לעסוק בשאלות אלה באופן ביקורתי ויצירתי. כחוקרת התנהגות אני סבורה ששיח רציונלי הוא המפתח לחזון של אופטימיות זהירה. אני מאמינה שכקוראים תוכלו לראות בו מקור השראה מתמשך, ומזמינה אתכם להצטרף לשיח על טכנולוגיה, על הגינות, על איכות חיים ועל העתיד. בין שאתם אזרחים מודאגים, מומחי טכנולוגיה, רופאות, מטופלות, מנהיגות עסקיות, צרכנים, חוקרים, מורים, הורים או סתם קוראות סקרניות, רתימת הטכנולוגיה הדיגיטלית לעשיית טוב מתחילה בהרחבת הידע ובלב מלא תקווה.

לימים טובים מאלה!

אורלי

מבוא

יש לי שלוש בנות; אחת מהן, האמצעית, היא נערה ביונית. בגיל 13 אובחנה אצלה סוכרת נעורים. היום היא נושאת על גופה את משאבת האינסולין החכמה הראשונה שנוצרה אי־פעם. המשאבה "חכמה" מכיוון שהיא מקבלת החלטות באופן עצמאי וכן לומדת ומשתפרת על סמך מידע שמגיע אליה מחיישן אינסולין, שאף הוא מחובר אל גופה של בתי. המכשירים הדיגיטליים הלבישים הללו - המשאבה והחיישן - מתקשרים זה עם זה ושומרים על בריאותה של אלינור. בטלפונים הסלולריים שלה, של אחותה הגדולה דניאל, של אחות בית הספר, של בעלי ושלי מותקנת אפליקציה שעוקבת בזמן אמת אחרי האותות הדיגיטליים המצביעים על רמת הסוכר בדמה. בין שאתם - כמו בתי הביונית - עוטים מכשירים חכמים ששומרים על חייכם ובין שאתם - כמו רוב רובנו - רק משתמשים בטלפונים הסלולריים שלכם, או אולי בשעון חכם, כאביזרים חיוניים, כולכם - ולמעשה כולנו - חיים בדו־קיום הולך ומתעצם עם מכונות שמשפיעות על כל היבט בחיינו.

טכנולוגיה עשויה להציל חיים; היא יכולה לעזור לנו להיות בריאים יותר, מוגנים יותר ושוויוניים יותר. עם זאת, הטכנולוגיה טומנת בחובה גם סכנה. בינה מלאכותית (AI), אוטומציה ונתוני עתק (Big Data) יכולים גם לשכפל ולהחריף עוולות מתמשכות. הדוגמאות לכשלים טכנולוגיים רבות מספור. החלטות שמתקבלות באמצעות מכשירים - כמו סינון מועמדים לעבודה או הכרעות בעניין שחרור בערבות - נוטות לגרום נזקים ולשקף דעות קדומות רווחות. התכנון הרובוטי משקף לעתים קרובות נורמות מגדריות וערכים תלויי תרבות. חברות הטכנולוגיה הגדולות שולטות בנתונים. אמנם הן משתמשות בהם בצורה מעורפלת, אבל באופן שמשפיע בבירור על התנהגותנו. ועמק הסיליקון, מוקד החדשנות, ידוע לשמצה במנהיגות ההומוגנית שלו שאינה משקפת כלל וכלל את הקהילה הגלובלית. אלה בעיות מוחשיות ומשמעותיות.

אבל יש להשלים עם המציאות: הרכבת כבר יצאה מהתחנה. הבינה המלאכותית לא תיעלם מחיינו בקרוב ואף תגדיל את טווח השפעתה. אנו נמצאים בצומת מכריע: האם נדחה מעלינו את הטכנולוגיה שאכזבה אותנו או שננתב את טכנולוגיות המחר לטובת החברה? האם נמשיך להצביע על סכנות ופגמים או שננסה לחזות עתיד מזהיר יותר? ספר זה נועד לעודד שיח בונה ומושכל על הדרך לשוויון ולהעצמה בעידן הדיגיטלי. שאיפתי היא לקדם את השיח אל מעבר למחלוקות שהתגלעו בו בשנים האחרונות, ומתגלות לעתים קרובות כחסרות תוחלת. עלינו לחזק את הפוטנציאל של הטכנולוגיה ככוח חיובי. למטרה זאת משמעות אישית עמוקה מבחינתי. אני בטוחה שגם אתם תמצאו בה היבטים אישיים.

לפני שנעשיתי עורכת דין ופרופסורית למשפטים שירתתי כקצינת מודיעין בצה"ל. האינטרה־נט עוד היה בחיתוליו, והאינטרנט טרם נהפך לחלק בלתי נפרד מהחיים האזרחיים. תפקידי היה לערוך סקירה אסטרטגית של נתונים המתייחסים לסיכונים ביטחוניים, לצורך שרטוט תמונה מלאה יותר של איומים קיימים ועתידיים בהתבסס על רשת דיגיטלית של ידע שנעשתה בהדרגה צפופה יותר ויותר. למדתי לִצפות את האופנים שבהם נתונים עלולים להטעות. הייתי עדה ממקור ראשון לפוטנציאל הנזק הטמון בטכנולוגיה. אבל בה בעת ראיתי גם כיצד היא מאזנת כוחות בלתי שקולים ועושה צדק ללא שהיות. רשת המחשבים נשאה בשורה חשובה של דמוקרטיזציה בשביל חיילות היחידה, ואני בכללן. באמצעות האינטרה־נט פיתחנו מערכת דיגיטלית שתיעדה בשקיפות את תרומותיהם של מנתחי הנתונים ביחידה תוך התמקדות בהערכה צודקת ושוויונית של חיילות וחיילים, באופן שהבטיח מתן קרדיט ראוי גם לקצינות בגין עבודתן הקשה והתובנות שהפיקו. זה היה באמצע שנות ה־90, ונשים רבות ששירתו ביחידה שלי המשיכו משם לתפקידים מובילים בתעשיית הטכנולוגיה, באקדמיה ובממשל. אני למדתי משפטים וכלכלה, תחילה באוניברסיטת תל אביב ואחר כך בהרווארד, וכיום, כמרצה ומומחית לקביעת מדיניות, אני חוקרת את האופן שבו ניתן לכוון משפט וטכנולוגיה להתמודדות עם האתגרים המורכבים ביותר הניצבים לפתחנו.

כשהייתי בגילה של בתי הבכורה והתכוננתי לגיוס, נשים הודרו מתפקידים קרביים. בסופו של דבר נישאתי לטייס F16, ולא נעשיתי טייסת קרב בעצמי. אחרי השירות הצבאי התמחיתי בבית המשפט העליון ולקחתי חלק בניסוח פסקי דין שקבעו כי מגבלות מגדריות מסוג זה אינן עולות בקנה אחד עם החוק. בעלי, טייס הקרב און אמיר, פרופסור לכלכלה התנהגותית באוניברסיטת סן דייגו, הוא כיום שותף פעיל בכתיבה שלי. יחד אנחנו חוקרים הטיות אנושיות מוּבְנות, ואת הפוטנציאל הטמון בהכוונה ובקביעת מדיניות ככלים שבאמצעותם ניתן לחולל שינוי. שנינו מייעצים לפלטפורמות טכנולוגיות מובילות ולרגולטורים כיצד להפוך את הטכנולוגיה למוסרית יותר, בטוחה יותר ושוויונית יותר. אנחנו נעזרים בטכנולוגיה גם בגידול שלוש בנותינו ובשמירה על האיזון בין עבודה לפנאי. ההתבוננות במהלך חיינו ממחישה לנו את ההשפעה העצומה של מכונות על מי שאנחנו ועל אורחותינו. העבודה, הלימודים, המגעים הבין־אישיים, המשחקים, ההתייחסות אל אחרים ואל עצמנו - כל אלה מעוצבים שוב ושוב בהשפעת הטכנולוגיה. בכל יום אנחנו באים במגע עם מכונות שנעשות יותר ויותר חכמות ומהירות, והיכרותן איתנו הולכת ומעמיקה.

כשהטכנולוגיה נותנת לנו לימונים

שוויון הוא צו השעה המוסרי. למרבה הצער, המרוץ המהיר לחדשנות תורם לעתים קרובות להגברת חוסר השוויון. אבל התפתחות טכנולוגית יכולה בהחלט לקדם הכללה והעצמה, ואף עושה זאת לעתים מזומנות; הכול תלוי בקבלת החלטות שמכוונת למטרה הזאת. לא חסרים סיפורי אימה על כשלים טכנולוגיים, על הטיות מוקדמות של בינה מלאכותית ועל העתיד הקודר הצפוי ליחסי אדם־מכונה. רבי־מכר המתהדרים בשמות כמו "נשק להשמדה חשבונית", "אלגוריתמים של דיכוי", "האוטומציה של חוסר השוויון", "טעות טכנית", "קפיטליזם במעקב צמוד" ו"נשים בלתי נראות: הטיית נתונים בעולם שנועד לגברים" מתריעים מפני אפשרויות ההקטנה, ההדרה וחוסר השוויון הצפונות בטכנולוגיות החדשות. והם אינם טועים. כפי שנראה בהמשך, הסיבות לאי־שוויון טכנולוגי רבות ומגוונות, החל מהזנת נתונים גרועים לתוך המערכות וכלה בלמידה אוטונומית ובשכפול של הגישות החברתיות השונות שלנו על ידי מכונות. כל אלה מובילים להחלטות בלתי מוסריות מצד התאגידים, ולהכרעות תכנוניות המבוססות על דעות קדומות.

אין ספק שכשלים טכנולוגיים אכן מציבים בפנינו סכנות מיידיות ושיש לטפל בהם. עם זאת, בעיות מביאות עמן קִדמה - וקִדמה גוברת על שלמות. איך נוכל לשלב את הבינה המלאכותית במערכות החברתיות שלנו באופנים שיקדמו הגינות ונגישות שוויונית? האם אפשר לתכנן רובוטים שיקראו תיגר על סטריאוטיפים מגדריים וגזעיים? האם נוכל להשתמש במכונות בתהליכי קבלת החלטות שבהם אנו, בני האנוש, ידועים באפליות ובפגמים שלנו? האם נצליח לבצע אוטומציה מלאה של מה שנחשב באופן מסורתי כ"עבודה של נשים", לרבות מלאכות משק בית וטיפול בבני משפחה? האם נצליח להנחות את האוטומציה בכיוון של הכללה ושיתוף גדולים יותר בשוק העבודה ובזירה הפוליטית? ואיך נוכל לשמור על ערכן של רוח האדם ושל העבודה האנושית בעולם שבו הייצור האוטומטי משתלט על נתח הולך וגדל של מציאות חיינו?

אני סבורה שכל היבט בחיינו - עבודה, משפחה, לימודים, סקס, אמנות ופנאי - עשוי להשתפר אם נפסיק להתחמק ונתמודד פנים אל פנים עם האתגרים הטכנולוגיים החדשים, ואם נלמד לזהות את הבחירות הטובות ביותר ולקדם אותן למען עידן חדש של דו־קיום בין אדם למכונה. שני עשורים של מחקר לימדו אותי על חשיבות הביקורת הבונה. אנחנו בונים מחדש את הבתים שלנו, את הכלכלה, את החינוך, את שירותי הבריאות, את מערכות התעסוקה, את היחסים הזוגיים והמשפחתיים, את המסחר ואת הפוליטיקה. תקוותי היא שמסענו המטפורי בעמודים אלה, בין חלקי הגוף של המכונות - מוח, גוף, חושים, לב ונשמה - יחדיר גם בכם אופטימיות זהירה ויצירתיות מושכלת ביחס לעתידנו.

נקודת המוצא שלנו היא זאת: למרות הסיכונים והפגמים הטמונים בה, דיגיטציה יכולה - ולמעשה, חייבת - להיות לכוח רב־עוצמה בשירות הערכים החברתיים שאנו מבקשים לקדם; הגינות, הכללה, צמיחה כלכלית, הזדמנויות רחבות, חדשנות, ומכל לכול - שוויון. בכוחה של בינה מלאכותית להשבית הטיות מוקדמות ולזהות אפליה וניצול בשלבים ראשוניים מאוד שלהם. בינה מלאכותית, רובוטיקה ופלטפורמות דיגיטליות יכולות לסלול לנו דרך לעתיד טוב יותר, מגוון יותר ומועצם יותר באין־ספור דרכים: מצמצום פערי שכר ועד חשיפה ותיקון של הטיות מוקדמות בהעסקה ובשיווק; מתיעוד דיגיטלי של הטרדות במקומות עבודה ועד לגיוון הדימויים התרבותיים שאנחנו רואים ברשת; מהגברת הפרטיות והבטיחות ועד שינוי התפקידים המגדריים המסורתיים ושלילת סטריאוטיפים גזעניים; מחתירה תחת דפוסי נישואים צרי אופקים ועד הרחבת מנעד החוויות המיניות שלנו; מתמיכה בטיפול בקשישים ועד להרחבת טווח ההזדמנויות מעבר למגבלות של כישורים או של גיאוגרפיה. יישום הטכנולוגיות של המחר בתבונה ומתוך מחשבה צופת פני עתיד עשוי לאפשר לנו חזון של חברה שבה חיינו אינם תחומים בהגבלות של מגדר, גזע, מיניות, גיל, גיאוגרפיה או כישורי יסוד. אבל שוויון לא ייווצר בלי בחירות מכוונות, בלי ראייה כוללת ובלי תכנון. זה הזמן למעורבות פעילה ולחזון איתן ביחס למטרות שברצוננו להשיג.

מתווה לבנייה של מכונת שוויון

תמיד היו לנו יחסים אמביוולנטיים עם מכונות - ובמיוחד עם רובוטים, שנראים לנו גם נעלים עלינו אבל גם נתונים למרותנו, גם מועילים וגם מטילי אימה. בעולם המעשה, עם כל התקדמות טכנולוגית עלינו לתבוע שוויון בפועל, להציב אותו בעדיפות גבוהה ולהבטיח את קיומו. מטרתי בספר זה היא להתוות חזון מעודד לעתידנו הדיגיטלי, חזון שבו הדגש עובר לשוויון, ולעשות זאת באמצעות פיתוח כלים וכללים פרקטיים, לצד הצגת עקרונות רחבים יותר. הטכנולוגיה כשלעצמה חפה מערכים, ואף על פי כן - בהתאם לתפקידה ולתכליתה - היא עשויה למגר אי־שוויון או לשמר אותו. הבה נזהה תחילה כמה עקרונות מנחים:

דיגיטציה אינה חייבת להיות מושלמת כדי שנאמץ אותה כמכשיר להגברת הטוב בחברה. עלינו רק להשתכנע בכך שיש לה פוטנציאל ויכולת לפעול טוב יותר מהמערכות הקיימות שלנו. קבלת ההחלטות האנושית מוגבלת מטבעה, מוטית ועתירת פגמים. עלינו לנסות ליהנות מהיתרונות היחסיים של הבינה המלאכותית, ובד בבד להסכין עם מגבלותיה. מערכת מתקדמת היא כזאת שתציג מודל היברידי משופר של קבלת החלטות, בהתבסס על הכישורים הטובים ביותר שניתן להפיק מאדם וממכונה. זאת ועוד - עלינו להשוות יתרונות וחסרונות של מערכות בלתי מושלמות בשאיפה למסקנות יחסיות, לא מוחלטות. המטרה היא התקדמות ושיפור, לא שלמות.

עלינו לראות בטעויות הזדמנויות למידה, ולהכפיל את מאמצינו לתקן אותן. במקום להאדיר סיפורים על כשלים טכנולוגיים, עלינו להתמקד בשאלה כיצד ניתן לשפר את הטכנולוגיה. מפתחים מובילים בתחומי הבינה המלאכותית, הרובוטיקה והדיגיטציה מגיעים להישגים מדהימים בחדשנות מחקרית וטכנולוגית כל הזמן, אבל אין התקדמות שאינה מלווה בטעויות ובתקלות מעוררות דאגה. עם זאת, אפילו בתקופות האפלות ביותר (ואולי במיוחד בתקופות כאלה) - למשל, לאחרונה בתקופת הקורונה והמהומות החברתיות ב־2020, כשאנשים רבים כל כך רותקו לבתיהם או יצאו לרחובות במחאה נגד אלימות ואפליה - נוכחנו בכוח החיובי של הקִדמה הטכנולוגית. הטכנולוגיה חיברה בינינו בתקופות בידוד, אפשרה מגע עם קשישים ועם חולים, סייעה במעבר לעבודה מרחוק, עזרה בהפצת אקטיביזם חברתי בנושא זכויות אדם ותיעדה מקרים של התעללות שיטתית על ידי רשויות האכיפה וחברות פרטיות, תוך הפצתם לכלל הציבור. סרטון הווידיאו שבו תועד הרצח של ג'ורג' פלויד על ידי שוטר במינסוטה - סרטון שצולם באמצעות טלפון נייד והופץ באמצעות הרשתות החברתיות - הוא רק דוגמה אחת לכך. כריית נתונים גם סייעה למדענים ולקובעי המדיניות בהערכת סיכונים, בפיקוח על ציות להוראות סגר ובהאצת פיתוח החיסון לקורונה ויצירת חסינות עדר. כשהיישום של הטכנולוגיה משתבש - כמו באלגוריתמים לזיהוי פנים, הלוקים בהטיה גזעית קיצונית - השיבושים נחשפים ביתר קלות, בהשוואה לעוולות עבר שהוסתרו מעין הציבור ולא תועדו. וכשלים טכנולוגיים קל יותר לתקן, במקרים רבים, מאשר טעויות אנוש.

באפשרותנו להעריך הצלחה וללמוד מהתנסות. לכל אורך הספר אנחנו עתידים לגלות סיבות רבות לשביעות רצון: קהילות טכנולוגיות - באקדמיה, בעסקים ובמגזר הציבורי - מפתחות אלגוריתמים שמזהים הטיות ואפליה במקומות עבודה ובמסגרות חברתיות; תוכנות שנועדו לסייע למעסיקים לצמצם פערי שכר; בוטים שמזהים סימנים מוקדמים לנטייה להטרדות ומאפשרים לקורבנות לדווח על הטרדה בעילום שם; פלטפורמות דיגיטליות שמעודדות ייצוגים ויזואליים מגוונים ומעצימים יותר של נשים ושל גברים כהי עור בתקשורת, בפוליטיקה ובפרסום; דיון פמיניסטי ער בשאלה אם בוטים יכולים להפחית סחר בבני אדם למטרות מין ופשעי מין ומנגד לתת דרור לתשוקות מסוגים שונים; איסוף וניתוח דיגיטלי של נתונים רפואיים שעשויים לשנות אלפי שנים של מחקר מוטה ועוד ועוד. אפילו פלטפורמות מדיה חברתית, שסופגות ביקורת לעתים קרובות, מאפשרות תקשורת רחבה ומכלילה יותר. החברה שלנו זקוקה כעת, יותר מתמיד, לשינוי מערכתי משמעותי. הדרך להתקדמות היא לתמרץ ניסויים, להפיץ פיתוחים טכנולוגיים למען מטרות חברתיות, לעדכן את הנוגעים בדבר באופן שוטף, להקפיד על ביקורת סדירה ולהעריך הצלחה באמצעות בחירות מכוונות - שייעשו לעתים קרובות בפומבי.

יש להטמיע את מטרת השוויון בכל פיתוח דיגיטלי. למידת מכונה מושתתת מטבעה על היכולת ללמוד ולהשתפר, אבל עלינו להיות חדים וברורים באשר למהות השיפור המבוקש. יש להביא בחשבון את ההיזון החוזר בין החברה לטכנולוגיה. אלגוריתמים נוטים לשכפל עוולות עבר, אלא אם כן אנחנו מורים להם במפורש לא לעשות זאת. זה אומר גם שעלינו להפריד בין יכולת טכנולוגית לתפקוד שלה בפועל, ולמקד מחדש את המטרות המקוריות של החדשנות באמצעות חזון אקטיבי. באפשרותנו ללמוד איך לשנות מן הקצה אל הקצה את הדברים שהטכנולוגיה מייצגת ואת הישויות שהיא משרתת, ולדמיין שימושים ויכולות שישרתו את טובת הציבור בכללותו ואת מטרות השוויון וההכללה. אפשר גם לזהות כיצד מטרות סותרות לכאורה - כמו דיוק והגינות, שוויון ופרטיות, יעילות והכללה - נהפכות למטרות משלימות שטומנות בחובן רווח לכל הצדדים, במקום "משחק סכום אפס", כאשר הן מקודמות באמצעות טכנולוגיה ולמידה מתמשכת. מאחר שטכנולוגיות דיגיטליות חדשות חודרות ממילא לכל היבט בחיינו, במקום להתאונן על עוולות עבר ולזלזל בסכנה שהן ישוכפלו, כדאי לבחור באופן אקטיבי שימושים טכנולוגיים מעצימים שתורמים לבניית חברה טובה יותר.

עלינו לייחס חשיבות למה שחשוב. ביכולתנו למנף את הטכנולוגיה הדיגיטלית לאיסוף הנתונים הנכונים, הנתונים החסרים, הנתונים החלופיים והנתונים השלמים, וכך לשפוך אור חדש על בעיות ישנות. אנחנו מודדים מה שקרוב ללבנו; אנחנו אוספים נתונים על מה שחשוב לנו. כוח המחשוב הממוכן שיש ברשותנו כיום יכול לסרוק נפח חסר תקדים של מידע - הרבה מעבר ליכולת האנושית - ולהפיק מהם דפוסים המעידים על סדרי עולמנו. ביג דאטה, מצבורי הנתונים העצומים שכעת ביכולתנו לאחסן ולנתח - ובמיוחד מידע המזהה ומכמת מגמות חברתיות, פסיכולוגיות, כלכליות ובריאותיות - מציגים לנו מידע מפורט בנוגע למקורות האפליה והשונות, ומציעים פתרונות ודרכי התקדמות. היכולת למיין ולכרות כמויות אדירות של מידע מאפשרת לאלגוריתמים ללמד אותנו על אי־שוויון. אבל ההתמודדות עם אי־שוויון מתחילה בנתונים טובים יותר. העצמה מתבססת על איתור מידע בעל חשיבות.

מכון Bread for the World, למשל, פרסם לאחרונה דוח שלפיו באפריקה חסרים 92 אחוז מהנתונים הכלכליים הכוללים פילוח מגדרי. אנחנו לא עוקבים אחרי מאבקיהם של הזקוקים ביותר לעזרתנו. מיליונים נותרים בין הצללים. אבל כיום, הודות לטכנולוגיה, ניתן להתמודד עם הבעיה. המכון ומתנדביו - מתכנתים, מנתחי מערכות מידע, סטטיסטיקאים ומעצבים גרפיים - עוסקים באיסוף שיטתי של נתונים בעלי חשיבות, כדי לסגור פערי מידע ולשפוך אור על בעיות מסוג זה. לפי האמירה המפורסמת המיוחסת ללואי ברנדייס, שופט בית המשפט העליון בארצות הברית, אור השמש הוא חומר החיטוי הטוב ביותר, ואור החשמל הוא השוטר היעיל ביותר. כדי למנוע אפליה עלינו לכוון אליה את הזרקורים. כדי לתקן הטיות עלינו לזהות אותן תחילה. כדי לוודא שההיסטוריה אינה חוזרת על עצמה עלינו ללמוד היסטוריה. אם השופט ברנדייס היה בחיים היום הוא היה אולי אומר שאיסוף נתונים נכון הוא חומר החיטוי הטוב ביותר, ושזרקור דיגיטלי הוא מחולל השוויון החברתי החזק ביותר שבנמצא.

עלינו להתייחס לטכנולוגיה כאל כלי שמשרת את טובת הציבור. יש לראות את היקף הנתונים העצום שנאסף כעת, ואת ההתפתחויות הטכנולוגיות שמאפשר בסיס הנתונים הזה, ככלי שמשרת את טובת הציבור. הבינה המלאכותית משתפרת כל הזמן באמצעות המידע האינסופי שהיא שואבת עלינו כפרטים, מבריאות וגנטיקה ועד ייצוגים ויזואליים, קול וקוגניציה - כל היבט של ההתנהגות שלנו. משמעות הדבר היא שעלינו לקרוא תיגר על המציאות שבה תאגידים ספורים שולטים שליטה מוחלטת בנתונים המופקים ובאלגוריתמים המוזנים בנתונים אלה. מחקרי בנושא קניין רוחני והון אנושי מצביעים על כך שידע וחדשנות הם משאבים משותפים שמפתחים אותם באמצעות תרומות משותפות, רב־דוריות, ולפיכך גם התועלת המופקת מהם צריכה להיות משותפת ולא נתונה לשליטה בלעדית של תאגידים. בפרפראזה על דבריו של תומס ג'פרסון: ההפצה החופשית של רעיונות, כמו האוויר שאנו נושמים, היתה מאז ומתמיד הדרך הטבעית והמוסרית להתפתחות האנושית על פני כדור הארץ. כשמדובר בפטנטים, בזכויות יוצרים ובסודות מסחריים מתנהלים ויכוחים עזים ודיונים ערים בסוגיית האיזון הנכון בין זכויות קניין לבין הזירה הציבורית. באותן שאלות היסוד הנוגעות לעלות ולתועלת של שליטה בידע, ולהשפעות תפוצתם של הסדרי קניין רוחני והגבלים עסקיים, יש לדון עתה בנוגע לביג דאטה וליכולות הבינה המלאכותית. בדיוק כמו מידע, ידע, חדשנות ובאופן כללי מאגרי הכישרונות שלנו, יש להתייחס לבינה מלאכותית ולבסיס נתונים כאל משאבים משותפים שבכוחם לסייע בפתרון חלק מהבעיות הקשות ביותר של העולם: בריאות הציבור ומגפות עולמיות, רעב, קיימות סביבתית ושינויי אקלים, עוני ואי־שוויון. עלינו להתקדם לעבר קוד פתוח גם בביג דאטה, ולעבר יוזמות ציבוריות למימון המונים של איסוף נתונים למען מטרות ציבוריות. עלינו לתמרץ תחרות, ולא ריכוזיות, בכל מה שנוגע לפיתוח טכנולוגיות חדשות ולשימוש בהן. תחרות מפחיתה עלויות ומעודדת מרחב בחירה, חלופות מותאמות אישית והעדפות משתמש במובנן המקורי - העדפות של המשתמש עצמו.

ביכולתנו ליצור בינה מלאכותית שקוראת תיגר על סטריאוטיפים. עלינו לעצב מכונות ורובוטים שחותרים תחת תבניות ישנות של זהות. רובוטים, עוזרים דיגיטליים, צ'טבוטים, מערכות ניווט לווייניות, אפליקציות ומכונות רבות אחרות שאנו בונים מקבלים שמות אנושיים, קולות אנושיים, אישיות וייצוג ויזואלי אנושי - ולעתים קרובות למדי גם מגדר ושיוך אתני. מקור המילה "רובוט" במילה צ'כית שפירושה "עבד"; המחזאי הצ'כי קרל צ'אפק טבע אותה בהתבסס על המילה "רובוטה", שמשמעותה עבד או עובד כפייה. המחזה שלו, "הרובוטים האוניברסליים של רוסום", שהצגת הבכורה שלו הועלתה בפראג ב־1921, תיאר בית חרושת לרובוטים - או "עבדים מלאכותיים" - שיוצרו בייצור המוני לצורך ייצוא לכל רחבי העולם. ב־1924 הועלה המחזה בטוקיו, בהפקה שנועדה לקהל יפני, תחת השם החדש "Jinzo Ningen" ("אדם מלאכותי"). מעבדים ועד בני אדם מלאכותיים, רובוטים שנועדו להידמות לבני אנוש במראם ובהתנהגותם - אנדרואידים - נמצאים עדיין בחיתוליהם, והתרבות הפופולרית ממשיכה "לפנטז" על רובוטים שהם בדיוק כמונו. עלינו לבחון את הסיבות שמביאות אותנו לתכנן רובוטים בעלי מראה אנושי ותודעה אנושית - רובוטים שנוטים לחוש, לתפוס ולחקות התנהגות ורגשות אנושיים. מתכנתים בהחלט יכולים - וצריכים - לתכנן עוזרים וירטואליים בעלי תכונות ניטרליות יותר. אבל אפשר גם להתנסות בתכנון רובוטים מתוך מטרה מוצהרת של קריאת תיגר על סטריאוטיפים ומוסכמות, בין שמדובר ברובוטים טיפוליים, ברובוטי סקס או במכונות שמבצעות עבודות בבית ובמשרד. באפשרותנו לאמץ גישה עיצובית אקטיבית שמערערת על הסטטוס קוו וחולקת על תכתיבים מסורתיים. עלינו לבדוק מתי ומדוע כדאי שרובוטים יהיו בעלי מאפיינים אנושיים, מתי אפשר לשוות להם תצורה מובהקת פחות וכיצד אפשר לשלב אותם בזהירות במרקם המשפחתי והחברתי באופן שיעודד חיבור, מרחב ושוויון.

המשך הפרק בספר המלא