מדוע גוגל הפכה את רשת האתרים לרשת תרבותית ואיכותית יותר מרשת המשתמשים שיצרה פייסבוק, והאם זו גזירת גורל? המגמה
האנטי-ביורוקרטית יצרה בתקופתינו העדפה לארכיטקטורות טכנולוגיות וחברתיות שטוחות, אך לריבוד יש דווקא חשיבות אדירה לתפקודה
של מדינה או תרבות. לפיכך נוצרה סתירה בין האמצעים הטכנולוגיים הנוכחיים לתרבות הגבוהה ולדמוקרטיית הנציגים. סתירה זו תיפתר
רק באמצעות סוג חדש של ריבוד, שאיננו מבוסס על רעיון השליטה הביורוקרטי, אלא על רעיון המשתמש הריבוני
הטעות היסודית של יובל נח הררי
הרדוקציה הטכנולוגית של התפתחות הרוח
האם באמת הטכנולוגיה מניעה את העולם? כל תקופה והצייטגייסט שלה, אך בתקופתינו נדמה שצייטגייסט פירושו טכנולוגיה. המטא-נרטיב
שמוכרים לנו בתקשורת ובאקדמיה הולך ומתכנס בהדרגה להסבר מרכזי אחד, ששאר ההסברים נדמים לצדו כמיושנים (בהתאם לנרטיב
הטכנולוגי, שכל דבר שאיננו טכנולוגי הוא "מיושן"): הטכנולוגיה היא המנוע של ההיסטוריה - מאז ומעולם.
בהעדר ממצא רוחני, גם הממצא החומרי מתקופת האבן מתפרש כהתקדמות הטכנולוגיה, וכל מהפכות העבר מתפרשות דרך הפן הטכנולוגי שלהן:
המהפכה החקלאית, המהפכה התעשייתית, מהפכת המצפן, הגנום, אבק השריפה, הפלדה, ושאר מהפכות שצצות חדשות לבקרים כמניין
הטכנולוגיות. אפילו שינויים רוחניים מהותיים (מונותיאיזם? העת החדשה?) מוסברים טכנולוגית, למשל באמצעות מהפכת הכתב האלפביתי
או מהפכת הדפוס. הסבר היסטורי טוב, משכנע ו-"עמוק" כיום הוא הסבר טכנולוגי שמתחת לתופעות רוחניות. זוהי ירושה מרקסיסטית
שזכתה לעדכון עכשווי, ולמרבה האירוניה היא דווקא משתלבת היטב עם הניכור שלנו מהעבר שלנו. ואם הסברים היסטוריים דטרמיניסטים
זוכים כיום להוקעה נרחבית - הסברים טכנולוגיים דטרמיניסטיים זוכים להוקרה. סוף כל סוף נמצא המנוע הדטרמיניסטי (המבוקש מאז
ומעולם) להיסטוריה - והרי הוא הטכנולוגיה.
ומי יעז לחלוק ולהציע כיווני התפתחות טכנולוגיים אלטרנטיביים? בוודאי לא אנשי הרוח, שמעטים מהם מבינים כיצד פועל המחשב בו הם
כותבים את הגיגיהם, או את אינספור הרבדים הטכנולוגיים - פיזיקליים, הנדסיים ומתמטיים - שמאפשרים את קיום האינטרנט. הבורות
(ולעיתים ההתגאות בבורות) של אנשי רוח במדעי הטבע ובמתמטיקה היא תופעה מודרנית מאוד, שיש לה שורשים סוציולוגיים שהפכו
לאידיאולוגיים, שהרי כל מי שמסוגל לחשיבה כמותית מפותחת ניצב בפני מערכת תמריצים שלעיתים רחוקות תנתב אותו מחוץ לאפרטוס
הטכנולוגי האדיר של החברה. מי שמסוגל לחשוב על כיווני התפתחות טכנולוגיים מוצלחים שלא נוסו - שיפתח סטארטאפ. וכשהבורות
חוגגת, נוצרת חשיבה דטרמיניסטית ומלאת יראה למול האל ההיסטורי החדש - הטכנולוגיה.
חזרת הסטרוקטורליזם בגרסת מבני הנתונים
הארכיטקטורה כשיכבה מתווכת בין הטכנולוגיה להיסטוריה
מצד שני, מי יכחיש עוד את השפעתה האדירה של הטכנולוגיה על ההיסטוריה? ובכן, לא רק שהטכנולוגיה איננה דטרמיניסטית, ויש כר
נרחב לחשיבה באמצעות היסטוריות אלטרנטיביות על קווי התפתחות טכנולוגיים אלטרנטיביים, אלא שלא הטכנולוגיה עצמה היא ההסבר
העמוק לתופעות העבר וההווה. מתחת לטכנולוגיה מסתתר רובד נוסף, שהוא זה שקובע את התפתחותה והשפעתה בקונטקסט ספציפי - והוא
הארכיטקטורה של הטכנולוגיה. האם באמת חייבת היתה להיווצר אינטרנט אחת, אמריקאית? האם לא נוכל לדמיין, שבעידן רב מעצמתי, שאין
בו מעצמת-על (כלומר לא ברגע ההיסטורי הספציפי של שנות ה-90), היו נוצרות כמה וכמה אינטרנטות מתחרות, שאינן מתחברות היטב?
אינטרנט רוסית, גרמנית, סינית? ולכל אחת מהן ארכיטקטורה משלה, שתואמת את התרבות ממנה היא הגיעה? האם פייסבוק היתה חייבת
להיות מעוצבת בדרך בה היא מעוצבת, למשל באמצעות אלגוריתם פופולריות בניגוד לאלגוריתם מוניטין, רק כי לשם הובילה אותה היד
הנעלמה של הטכנולוגיה? בוודאי, יאמרו, הרי פופולריות פירושו רווח. אבל גוגל מעוצבת באמצעות אלגוריתם מוניטין ולא פופולריות,
ודווקא מכאן נובעת ריווחיותה, לא?
האם הארכיטקטורה הנוכחית של הדמוקרטיה היא גזירת גורל, משהו שנובע מעומק מושג הדמוקרטיה, או תוצר היסטורי בתנאים היסטוריים
ספציפיים, וניתן לדמיין בחירות דמוקרטיות לעילא בארכיטקטורות שונות עד למאוד, למשל
ארכיטקטורה עמוקה? האם משבר הדמוקרטיה
במערב נובע מעצם הטכנולוגיה (הדטרמיניסטית, כידוע) של הרשת החברתית ולכן הוא גזירת גורל, או שמא הוא נובע מיישום אמריקאי
ספציפי מאוד של הארכיטקטורה שלה, שלא היה קורה, למשל, ברשת מבוססת מוניטין? כל עוד ניתוח התופעות מתבסס על הטכנולוגיה עצמה
היא נדמית ככוח סטיכי, כמעט ככוח עליון נעלם (אותו מושא תשוקה של הטבע האנושי ל-"כוח הסברי" מאז ומעולם, שזכה לגילומים כמו
אלוהים או היד הנעלמה הקפיטליסטית). אבל ברגע שהניתוח מתבסס על מושג הארכיטקטורה של הטכנולוגיה - לפתע צצות האלטרנטיבות,
ומתאפשרת חשיבה שאיננה רק ביקורתית-נגטיבית, והצעה לארכיטקטורות חברתיות אחרות.
הארכיטקטורה של הטכנולוגיה משפיעה גם על התודעה, ולא רק על הסדר החברתי. אם בתחילת ימי המחשב, השימוש בו היה ידע אזוטרי
שמסור לכהנים שיודעים "שפת מכונה", בהמשך במערכות כמו "דוס" הוא הפך לשלטון מלוכני באמצעות פקודות ישירות. אך רק כשקמה מערכת
ההפעלה המודרנית, נוצרה הארכיטקטורה העכשווית שמסדירה את יחסי אדם-מכונה. זוהי מערכת הפעלה שמעצימה את ה-"משתמש" (רעיון חדש
של ריבונות אינדיבידואלית) דווקא בכך שהיא מסתירה ממנו כל מה שלא בשליטתו. כל הקרביים האדירים של המחשב שבידיו אינם נגישים
לו, והוא לא מודע לקיומם, בשעה שהוא מבצע פעולות בממשק ויזואלי שמסתיר את דרך פעולתן האמיתית, אך נותן לו אשליית שקיפות
("חלונות") באמצעות ייצוגים גרפיים פשטניים של פעולות סבוכות ו-"עמוקות". בכך הוא מעניק לו שליטה חסרת תקדים, שמתבטאת בעיקר
בתחושה של יכולת בחירה בלתי מוגבלת וחופש ביטוי, בעוד כל המנגנונים האוטונומיים פועלים כל העת באופן עצמאי אך ייצוגי -
דהיינו על פי השינוי בייצוגים מול עיניו של הריבון. כל זאת, בדומה לצורת השלטון הדמוקרטית: בחירות נציגים הכפופות לריבון
שאיננו חלק מהשלטון, ואיננו שולט ישירות במדינה, שנתפסת להלכה כמשרתת שלו, ואילו בפועל היא מערכת ביורוקרטית אדירה
וחצי-אוטונומית.
אך ארכיטקטורה כזאת איננה היחידה אותה מאפשרת טכנולוגיית המידע, והיא הולכת ומוחלפת בארכיטקטורה חדשה, שמעצבת תודעה חדשה.
הפרוצדורות של מערכת ההפעלה הן במהותן ביורוקרטיות ולא אלגוריתמיות. אך כשהאלגוריתם העלום של גוגל סידר את תוצאות החיפוש,
וזה הסודי של פייסבוק את סדר הפיד, הפך המשתמש לתלוי פסיבית באלגוריתם שאין לו כמעט שליטה אקטיבית בפרמטרים כלשהם של פעולתו.
איננו יכולים להורות לפייסבוק להראות לנו יותר פוסטים שעוסקים במילה מסויימת או בתחום מסויים, או לומר לגוגל שאנו מעוניינים
בעתיד ביותר תוצאות כמו זו השלישית, או להחליט לומר לאלגוריתמים איזו סוגיה או נושא מעניינים אותנו באופן כללי. ממלכת הנסתר
מעינינו, שאותה אין אנו מבינים ואין לנו מושג מהי דרך פעולתה, ואין לנו גם שום ייצוג או המשגה כלשהי שלה, הלכה והתרחבה
פלאים, ומוטת השליטה של האידיבידואל ירדה בתלילות. וכל זאת היא רק הקדמה לשילוב של אלגוריתמי בינה מלאכותית עמוקה שילמדו את
העדפותינו ואת דרכי פעולתינו מעצמם, ללא אפשרות לשלוט בהם ישירות באמצעות ייצוג כלשהו של פעולתם.
רשת העורכים נגד רשת הבועות
המאבק על הארכיטקטורה כזירה החשובה ביותר בימינו
האלגוריתמים הגלובאליים, בניגוד לאלה המפעילים לנו את המחשב או הטלפון האישי, הולכים וצוברים כוח על חשבון האינדיבידואל
הריבוני, כפי שהמערכות הגלובאלית, כגון הכלכלה והרשת, הולכות וצוברות כוח על חשבון הריבונות המדינתית. זוהי ארכיטקטורה
שיוצרת ניכור בין המשתמש הריבוני לפלטפורמת העל והתנהלותה, ואת תוצאותיו של ניכור זה אנו רואים בפוליטיקה ובתרבות בכל רחבי
תבל: ירידה באמון במוסדות, עליית הפופוליזם (תגובת נגד לירידה בריבונות), ושקיעתו המהירה של דרג הביניים במערכות והייצוג
החיוני שהוא מספק (למשל: מבקרים שמייצגים "מה הולך" במערכת ספרותית או תרבותית, עיתונות שמייצגת "מה הולך" במערכת הדמוקרטית,
אינטלקטואלים שמייצגים "מה הולך" בהתפתחות הרוח, וכו'). בשיא התופעה, אנו חוזים בעלייתן של מערכות לא דמוקרטיות שיודעות יותר
טוב מהאזרח מה נכון עבורו (סין) או משתמשות בכוחן העודף למניפולציה גסה עליו (שורה של שליטים סמי-אוטוריטריים המפעילים
מניפולציה תקשורתית מתמדת). אך האם הארכיטקטורה האלגוריתמית המנוכרת היא מחוייבת המציאות, ופועל יוצא של מהות הטכנולוגיה
ו-"טבע" האלגוריתמים?
ודאי שלא. לכל אלגוריתם יש פרמטרים, שניתן להנגיש אותם למשתמש, ואפילו בייצוג פשטני, אם יש רצון בכך. בהחלט ניתן לדמיין
פייסבוק או גוגל שמנגישות את הפרמטרים המרכזיים של האלגוריתמים שלהן לשליטת המשתמש, ומייצגות אותם בממשק גרפי שיש לו מובן
עבורו, ומאפשרות לי לבחור להתעניין ב-"בינה מלאכותית" וב-"חתולים", תוך מתן עדיפות לתוצאות הכתובות בשפה גבוהה (פרמטר פשוט
לתכנות) או כאלה המזכירות את רשימת הערכים מוויקיפדיה שקראתי בשנה האחרונה. ממשק משתמש אלמנטרי לשליטה באלגוריתם היה מאפשר גם
לכוונן את הפרמטרים לפי פרופילים מוכנים, או כאלה שיצרו משתמשים אחרים. כך היה ניתן להשתמש לדוגמא בפרופיל מוכן של מי
שמתעניין ב-"ספרות עברית", ולקבל פיד שמשקף את המתרחש בספרות העברית בזמן אמת, או למשל תוצאות חיפוש של החידושים החשובים
ביותר בגנטיקה בשנה האחרונה, מה שכיום מצריך יכולות חיפוש לא מבוטלות. פרופיל כזה היה יוצר פונקציה של עורך, ושקלול סדר
התוצאות או הפיד היה יכול להיות נתון גם הוא לשליטת המשתמש (למשל לפי מוניטין, פופולאריות או טרנדיות). מדוע איני יכולה לדעת
כיום מהם הפוסטים הפופולאריים ביותר בישראל השבוע, או אלה שצברו הכי הרבה אימוג'י כועס? אפשרות כזאת היתה יוצרת רשת חברתית
שקופה ורחבה בהרבה - במקום רשת הבועות הסגורות הנוכחית.
כפי שגוגל ופייסבוק שולטות בפרמטרים הגלובאליים של האלגוריתמים שלהן, כך גם כל משתמש (המעוניין בכך) היה יכול עקרונית ומעשית
לשלוט באלגוריתם באופן אישי ושקוף בהרבה. האם הן היו מפסידות מכך כלכלית? כלל וכלל לא ברור. זה פשוט היה מצריך מעט יותר מאמץ
אלגוריתמי, שהוא בהחלט בהישג ידן, ואם הדרישה לריבונות טכנולוגית של המשתמש היתה צוברת תאוצה ציבורית - הדבר אף היה קורה. אך
זוהי אינה רק דרישה נקודתית מגוגל או פייסבוק (ודומותיהן). זו עמדה עקרונית שמוטל עלינו לעמוד עליה ולשמור עליה בחירוף נפש
בארכיטקטורה של ממשקי אדם-מכונה, לקראת הממשק העתידי עם הבינה המלאכותית. טכנולוגיה שאין לנו ייצוג פשטני של פעולתה המאפשר
בחירה היא מתכון לאסון, כפי שמדינה שאין לנו בה ריבונות ובחירות של נציגים ומפלגות היא מתכון לאסון.
ככלל, לשכבות הביניים במערכות (המתווכים, העורכים, הנציגים, המבקרים, המסקרים, הממשקים) יש חשיבות אדירה לפעולתן התקינה,
שלעיתים רחוקות זוכה להבנה ולשמירה הראוייה (מי צריך את כל המתווכים האלה?), וזאת למרות ביסוסה התיאורטי (הפרדיגמה
ה-"עמוקה") והמעשי (למשל בפעילות המוח, המרובד מאוד). אם אנו רוצים טכנולוגיה שתשרת אותנו (ולא להפך), מדינה מתפקדת, ומערכת
תרבותית בריאה - עלינו להפנים את החשיבות בריבוד (ארכיטקטורת שכבות), ולהבין ששליטה מוחלטת של הריבון במערכת איננה רצויה
ואיננה אפשרית, אך מצד שני אובדן שליטה גם הוא מסוכן. לכן יש לטפח במערכות דווקא את הריבוד שמאפשר אובדן שליטה הדרגתי בכל
שלב, ורק כך, אולי, נוכל להתמודד עם המורכבות של המערכות האדירות שהולכות ומתפתחות לנגד עינינו, ובפרט עם הבינה המלאכותית.
כי ריבוד פירושו תרבות - ושטחיות פירושה ברבריות.