לפני הרבה שנים, המלט שאל במחזה השייקספירי המפורסם האם "להיות או לא להיות?" שאלה זו הדירה שינה מטובי הפילוסופים והוגי הדעות בעולם לגבי עומק השאלה והמשמעות שלה.

אולם במאה ה-21 בעולם הטכנולוגי והמפותח שלנו, שאלה זו מקבלת את גרסתה המפחידה: "ישתלטו או לא ישתלטו?"

מי, אתם שואלים?

המכונות.

כדי לענות על שאלת השאלות- "ישתלטו או לא ישתלטו" נשאל שני יודעי דבר: פיטר וקורטנה.

פיטר ת'יל - שיתוף פעולה בין  האדם למכונה

פיטר הוא אחד שיודע דבר או שניים על החיים, וגם דבר או שניים על סטארטאפים. עם הון מוערך של כ-2.2 מיליארד דולר ומעל 40 השקעות מאוד מוצלחות בסטארטאפים שונים, פיטר מאמין שהעתיד במערכת היחסים בין בני האדם למכונות הוא ורוד. למה?

בסטארטאפ הראשון והקטן שלו PayPal, פיטר ושותפיו נתקלו בהונאות כספים אשר בוצעו במערכת שלהם. הם חשבו על פתרון ובנו אלגוריתם מתוחכם. אולם האלגוריתם הזה לא היה מסוגל לגלות באילו פעולות בוצעו הונאות ובאילו לא, וגם אם כן סביר להניח שהגנבים היו עולים על דפוס הפעולה ומשנים אותו. מה שפיטר ושותפיו עשו הוא לגרום לאלגוריתם לפעול ולסמן את כל הפעולות ה"חשודות". כאשר הפעולות החשדות סומנו - אחד השותפים היה מסתכל על העסקאות מקרוב ובודק האם הן כשרות או לא.

על ידי שיתוף פעולה בין חישובי המחשב לניתוח של בן אדם, הצליחו ב-PayPal להעלים את תופעת ההונאות. הפעולה הזו של PayPal  היתה כל כך מוצלחת עד שפנו אליהם מה-FBI  בבקשה שיעזרו להם עם ההונאות שהם צריכים לפענח.

פיטר מאמין שהמכונות לא באו להחליף את האדם, אלא להשלים אותו בכל הדברים שהוא חלש בהם, או כדי ליצור דברים שאי אפשר היה לדמיין שאפשר לעשות אותם מלכתחילה.

קורטנה – אני אציל את העולם

הכירו את קורטנה, או במילים אחרות - ככה כנראה נראתה Skynet משליחות קטלנית בתחילת דרכה.

קורטנה, שלא כמו סירי של Apple לא רק ממליצה, היא גם לומדת ומנתחת אותך. לא רק זאת אלא שקורטנה גם נבנתה כדי לזהות ולנתח רגשות. אז אם אני שמח היא יכולה להמליץ לי לעשות משהו כיפי. אם אני אחרי ארוחת צהריים בדרך לתחנת האוטובוס, ואני רואה את האוטובוס מתקרב לתחנה היא יכולה להמליץ לי האם לרוץ אליו או לא. אם אני הולך לקנות מתנה לחבר היא יכולה להגיד לי מה כבר יש לו ומה הוא ישמח לקבל. אבל מה קורה אם אני עצוב? מה קורה אם אני עצוב ויש לי מפתחות למכונית ביד, מה היא תמליץ לי לעשות אז?

על השאלה "מי טובה יותר, סירי או קורטנה?", היא עונה: "אינני יודעת, אבל מה שבטוח הוא שאני הולכת להציל את העולם בעוד 500 שנה".

"להציל את העולם", לא "את האנושות", את העולם.

אפשר להתייחס לניסוח זה כמשהו סתמי או במקרה הטוב כמשהו מעודד - שכן קיימים הרבה איומים בפני האנושות, וקורטנה מבטיחה לשמור עלינו. אבל האם לא מסתתר מאחורי בחירת מילים אלו משהו נוסף?

זה לא סוד שקיים קונפליקט מסוים בין האדם לטבע. פרט לזיהום הסביבה שאנחנו מייצרים בעולם, קיימת סוגיה אף יותר עתיקה ויותר בעייתית בין האדם לטבע והיא - סוגיית האוכלוסין.

תומאס מלתוס פרסם בשנת 1798 את ספרו "על עקרון האוכלוסיה" שבו הוא צופה קטסטרופה אנושית עקב ריבוי האוכלוסיה שמכפילה את עצמה כל כמה שנים. ליתר דיוק, בכל 50 שנה, אוכלוסיית העולם מכפילה את עצמה:

בשנת 1927 - 2 מיליארד, בשנת 1974 - 4 מיליארד וב-2020 צפויים להיות כ-8 מיליארד בני אדם על פני כדור הארץ. אם אלו הם הנתונים איך תראה שנת 2070? או 2120?

הבעיה שנוצרת היא שכמות האנשים עולה וכמות המשאבים יורדת. בעוד כשהשליטה נמצאת אצל האדם הוא יחפש פתרונות יצירתיים לסוגיה, אבל אם השליטה תהיה אצל קורטנה, היא עלולה להפוך את הדברים להרבה יותר פשוטים.

קורטנה יכולה לנתח בעזרת אלגוריתם מתוחכם (המוח שלה) שהדבר הכי יעיל כדי לשמור על העולם זה להיפטר מהזן הזה שנקרא "בני אדם". במקום להשקיע זמן ומחשבה על איך לדאוג לעולם ובמקביל לאנשים, היא יכולה להוריד נתון אחד מהמשוואה. קורטנה צריכה את כדור הארץ כדי להתקיים, אבל לא כל כך את האנשים שחיים בו.

בעוד שבני האדם ירצו ליצור טכנולוגיה מתקדמת כדי להציל את העולם, הטכנולוגיה תבחר להציל את העולם על ידי הכחדת בני האדם.

אז למי להאמין?

אם נתכחש לדבריה של קורטנה ונגיד לעצמנו שהיא "סתם חיה בסרט", נעבור להשלים את דבריו של פיטר תיל. פיטר מציין ששיתוף הפעולה בין האדם למכונות רלוונטי למאה הזו. הוא ממשיך ואומר כי שאלת ההשתלטות (לא מציין השתלטות עויינת) של המכונות על מקורות פרנסה של בני האדם, תלווה את האנושות של המאה ה-22. אז למרות שפיטר תומך נלהב של טכנולוגיה ושל שיתוף הפעולה בינה ובין האדם, הוא מגיע למסקנה שיגיע השלב שבו שיתוף הפעולה יפסק. ואם באמת שיתוף הפעולה יפסק, מה יבוא במקומו?

משחר האנושות, האדם ניסה לשלוט בטבע. המרדף שלו לשיפור הטכנולוגי המתמיד (יש האומרים בשביל חיי נצח), שם אותו על מסלול מאוד מסוכן. מסלול מפותל שלא רואים איך הוא ממשיך ואיך הוא מסתיים ובסופו, האדם עלול לגלות שאי אפשר לשלוט בטבע, מסלול שבסופו היצירה שנועדה לשלוט בטבע גוברת על האדם, מסלול שבסופו אנו מגלים שהתשובה לשאלה היא: לא להיות.

כן? לא? נתראה במאה ה-22.