פרק 154 – מהפכת הבינה: בואי אמא

אתם מאזינים להסקת של בית אביחי. Everyone is talking about artificial intelligence, not artificial Genius. Not a tool.

שלום, אני אפרת שפירה רוזנברג ואתן מאזינות ומאזינים למפלגת המחשבות. יש סקט שבו מיכה גודמן ואני מדברים על הרעיונות שמאחורי הפוליטיקה. ובעונה הזאת, על הרעיונות שמאחורי המהפכה הגדולה שבדרך. מהפכת הבינה. במהלך רוב פרקי העונה הזאת, ניסינו להיעזר במיטב התיאורטיקנים, המדענים והיזמים, כדי לשאול מה עומדות להיות התכונות והיכולות של הבינה המלאכותית שבדרך, ואיזו מציאות עומדת להיווצר כתוצאה מהתכונות והיכולות האלה.

‫אבל עכשיו, רגע לפני שהעונה מסתיימת, ‫אנחנו רוצים לשאול את השאלה ההפוכה. ‫לא מה היו התכונות של הבינה המלאכותית, ‫אלא מה אנחנו יכולים ללמוד ממנה ‫על עצמנו, על הבינה. وعلى روح ובאופן מוזר מתגלה שמה שהכי קשה לנו כבני אדם זה בדיוק זה. שלום, איכה. שלום, אפרט. בפרק הקודם התחלנו לדבר על ההגדרה של טריסטן הריס למוטיבציות ה-Ego Religious, של מובילי התעשייה ומפתחי הבינה המלאכותית.

ודיברנו על הביטוי הזה בבית מסוים בפרק הקודם, אבל אם אנחנו רגע חוזרים לנקודת האפס של הדיון במוטיבציות, האנושיות של בני אדם, לפתח בינה שהיא לא אנושית, המוטיבציות האלה, הן לא חדשות. כן, או הייתי אומר, זה הפוך. כשבני אדם יצרים פינה לא אנושית, זה מלמד אותנו המון על הרוח המאוד אנושית שלנו. Mark Michael, Mr. Territkan machua projekt man hatten. והכמיה המשאלה הקמאית החזקה הזאת לייצר משהו כמו סופר אינטליג'נס, ייתן לי כוחות על הדבר הזה מי שעמד על הכמיה הזאת זה לא אחר מזיגמוד פרויד.

מי שלימה אותנו כל כך הרבה על הרוח האנושית ועל הכמיהות האנושיות בספר שלו ביצירת מופת שלו תרבות בלא נחת שהוא כותב ב-1929-30 Az u schövec. Kallam mitus ematikem. יש מיתוס על הרקולס, על גלגמש, על אחילס. אנשים כתבו ויצרו סיפורים. על אלים וחצאי אלים, עם כוחות על, על נשים ללא גבולות, שיכולים להרים ולעוף, ושואל פרויד, מה אנחנו לומדים מהמיתוסים האלה? ו...

מובן מאליו שמה שהמיתוסים האלה לא מלמדים אותנו זה על קיומם של אלים. כן, אולי זה לא מובן מאליו. זה לא מה שאנחנו לומדים מהסיפורים, אנחנו לא לומדים על זה שהיו פעם אלים ואנשים כוחות על... אנחנו לומדים על זה 30 פעם פינטזו על דמויות שהם אלים והם כוחות על המיתוסים אליהם ולמדים אותנו משהו עמוק על המשאלה האנושית להיות בני אדם זה להיות מוגבלים, להיות חלשים, להיות שברירים, יש לנו מגבלות, ובני אדם תמיד פנצזו על פריצת כל המגבלות שלהם.

ואז בגאונותו אומר פרויד, מה זה טכנולוגיה מודרנית? אז הוא אומר ככה, לבני האדם יש מגבלת ראייה, אז הם יצרו טלסקופ. והטכנולוגיה אמורה לשבור את מגבלת הראייה שלך. לבני עדה יש מגבלת תנועה, אז יש רכבות ויש ספינות והיום יש מטוסים כדי שלא תהיה לך מגבלת תנועה. לבני עדה יש מגבלת זיכרון, אז יצרו את המצלמה! כדי שלא תהיה לנו מגבלת זיכרון. למנה האדם יש מגבלה של כל הקול שלנו מוגבל, אז יצרו את הטלפון או את הגרסאות הקודמות של הטלפון כדי שהקול שלך אתה צועק והוא יישמע בקנדה.

אם אתה באירופה. בלי לצעוק אגב, אתה רק מדבר על תוך הדבר הזה, ושומעים אותך, זאת אומרת, מה זה טכנולוגיה? האפקט המצטבר של טכנולוגיה זה מחיקת המגבלות של בני אדם. האפקט המצטבר של טכנולוגיה זה להפוך אותנו לאלים. כי אם אומר פרויד, במיתוסים הקודמים הם חלמו על מיתוסים. הטכנולוגיה הופכת אותנו למיתוסים. כאילו הטכנולוגיה הופכת את החלום הזה למציאות. איזשהו אופן. אנחנו יש לנו, אומר פרויד, לנו יש כוחות של אלים. אגב עוד הוא שואל אבל לא נענה כרגע ולמה אנחנו עדיין עצובים וסובלים ומיוסרים

היא אמר שהאלים מרוצים, גם האלים לא היו כל כך כיפים. יש השטייה שאין כוח בעושר, אבל יכול להיות שהטכנולוגיה מראה שזה לא נכון. אגב, הוא צודק, אבל בואי נניח רגע. רגע. זה לרנט אחר. זה לרנט אחר. אחר לא מעניין, אבל אחר.

הדבר הזה שטכנולוגיה מלמדת אותנו על עצמנו, מלמדת אותנו עם הגשימה, משאלה הבאה, משאלה שהיא מגשימה. המשאלה הזאת, גם המסורת היהודית מכירה אותה. הפיינה אותה, מי ששאר אותה הצביעה עליה. וגם נתנה לכותרת. נכון. החטא, נכון, כן. ולא רק חטא אלא החטא הקדמון. כי המסורת היא חשדנית כלפי המשאלה הזאת. וכשאתה אומרת, החטא כדמון, אנחנו לוקח אותנו כמובן לסיפור גן עדן, ולסיפור של האכילה שאדם וחווה מייץ הדעת, וכל הסיפור הזה. יש מסורת פרשנית ששואלת מה הייתה המוטיבציה לאכילה מאת אדם.

והמוטיבציה בסיפור המקראי נמצא בטקסט של הנחש דווקא. הנחש יש לו קול פנימי באדם, יש לו פיתוי גדול באדם. ומה הטקסט של הנחש? النחש אומר לחווה, שאני אעשה לפטות אותה לאכול מעץ, הוא אומר לה, כי יודע אלוהים כי ביום אוכלכם ממנו ונפכחו איניכם. ויתם כאלוהים יודעי טוב ורע. אז זה פסוק מאוד מאוד טעון, ויש מסורת פרשנית ששמה את הדגש על שתי מילים שם, שתי מילים די... מהתידות, מהתידות מאוד. ויתם כאלוהים. עכשיו, מי שיפתח רשי, רשי, הפרשה הכי קונבציונלי בעולם, לא? איזה... רשי, מה זה וייתן כאלוהים? יוצרי עולמות. וואו.

וטורף החרדו השאיפה לרכוש דעת כדי לרכוש יכולות דמיורגיות, יכולות בריאה, יכולות יצירה. ואז אומר הנחש, הוא טוען, שאלוהים לא רוצה שתייעוצר עולמות. למה? כן, כי זה עוד משהו שרשי מצטט. וכל אומן שונא בני אומנותו. מה האומנות של אלוהים אומר הנחש? יצירת עולמות. הוא בורא יוצר. ואם האדם ירכוש יכולת יצירה, הוא מקנה בו.

לא, זה בגלל, קודם כל הביטוי, וכל אומן שונה בני אומנותו. זאת אומרת, אתה תמיד שונה את הקולגות שלך שנמצאים איתך באותו תחום, אתה שונה אותם, אתה מקנה בהם. אגב, הביטוי קנעת סופרים. שחקן כת עושה, לא מקנה בסופר. סופר לא מקנה בקורב רוק. And who is a man? And who is a man? And who is a man? And who is a man? And who is a man?

בסופרים אחרים. וממוזיקאים מכנים. כן, חזל הבין את הפסיכולוגיה הזאת, אבל הם השליחו אותה על אלוהים. הם השליחו אותה על הנחש, שהחץ של הנחש הוא שמשליח את זה על אלוהים. אומר, אני בראתי הכל, ואני לא רוצה מתחרים בביזנס של בריאה. Okay. מטורף. עכשיו, הריונס ימשיך להדהד לאורך הפרקים הפורמטיביים של בראשית. הרמב״ן אומר שאחצי הפרקים הראשונים של בראשית, הם ארכיטיפים שהולכים לשחזר את עצמם שוב ושוב לאורך כל ההיסטוריה. קשה להגזים עד כמה היה מעמיק הרמבן בקריאה שלו. זה ארכיטיפים שמשכפלים את...

והנה אנחנו רואים מול העיניים שלנו שארכי טיפים האלו ממשיכים לשכפל את עצמם, הנה עכשיו בפרויקט מנהציין הגדול. אז הוא אומר, אז באחצי הפרקים הראשונים הופיע עוד ארכי טיפ, שזה העוד תבנית, מחשבתית, נרטיבית. וגם כאן יש מדרש מעניין, אגב, כמובן יש הגוגה הרבה פירושים למה שאנחנו אומרים, אנחנו רוצים להקשיב לכל אחד, זה לא הכל של המסורת, אבל זה כל משמעותי, המסורת. ‫אגב, המקור של רשי זה מדרש רבא? ‫-מדרש רבא, כן. ‫ואגב, זה התגלגל לזוהר הקדוש, ‫זה הולך לתפוס תאוצה הסיפור הזה?

אז באחצרפקים האלה יש עוד ארכיטיפ, עוד מבנה מחשבתי. הסיפור של מגדל בבל. יש רק נזכיר רגע במילה. מה הסיפור הבסיסי של מגדל בבל? מגדל בבל זה פרויקט אוניברסלי שבני האדם יוצרים אליו בכל האנושות הקדומה. יצאת לפרויקט שמנוסח כך, הווה נבנה לנו עיר ומגדל וראשו בשמה. של האפלה לשמיים, מה זה הדבר הזה? אז אומר כאן המדרש, שהאנשים האלה, עליהם תודעה עצמית כזאת. זה לא הוגן שאלוהים, לקח לעצמו את הרשות, את העליונים, והשאיר לנו פה את הארגז החול הזה, שנקרא התחתונים. התחתונים, לדיוק. ואת אלוהים הוא בעליונים.

שזה הרשות האלוהית, שהיא הנשגבת ולתן לנו את התחתונים. אז מה הם עשו? אנחנו נהיה וניקח ממנו את זה. זאת אומרת, מה זה מגדל בבל? זה שוב פרויקט של בני האדם שלא מסתפקים בגבולות, שרוצים לשבור את המגבלות של האנושיות שלהם. להיכנס למרחבים שהם לא נועדו להם, הם לא שלהם, להפיל לשמיים. כי יש כאן קריאה שהחטא קדמון זה על האנושיות שלא משלימה עם האנושיות של עצמה.

אוקיי, אז בין אם אתה פרויד ובין אם אתה המדרש, נראה שהתבנית הזאת, לפי התבנית הזאת, ה-AI מנסה להגשים את הפנטזיה הקמאית הזאת. של להיות כאלוהים, לפרוץ את הגבולות של עצמנו, של לפרוץ את גבולות האנושיות. וזה לב ליבו של הפרויקט האלילי. השאיפה לפרוץ את גבולות האנושיות כמו שהן. ההלכה עצמית. כן, וזה כאילו מי המיתוסים הקדומים, כמו שאמרת קודם שפרויד אומר, מי המיתוסים הקדומים. ודרך החטא הקדמון, ודרך כל הדבר הזה, זאת הכמיהה האלילית, אבל היא עד היום נכשלה. הפרויקט האלילי עד היום לא הצליח, האדם לא באמת הצליח.

לפרוץ את הגבולות של עצמו. המגדל בבל עוד לא הצליח להיבנות, עוד לא נבנה עד היום. המגדל בבל הזה. ולגעת בשמיים. שבראשו מאפילים לשמיים ונוגעים בעליונים, כן? שאנחנו עוברים מהתחתונים לעליונים. ואז שאלת השאלות היא. אולי הפעם דרך הפרויקט הזה של ה-AI, אולי הפעם זה יצליח. אולי הפעם השאיפה הקמאית הבסיסית הזאת של לפרוץ את הגבולות של עצמנו, אולי הפעם זה יצליח.

וכדי לשאול גם פעם זה יצליח בעצם את השני שאלות, שאלה אחת האם יצליחו לפרוץ אל עבר סופר אינטליג'אנס התרחיש הזה שיצרו AI, שייצר בתור AI טוב יותר, שייצר בתור AI טוב יותר, ואז היא יתפוצצות אינטליגנציה, ופוף, יהיה לנו סופר אינטליג'נס, זאת שאלה ראשונה, אבל השאלה השנייה, שהיא אולי אפילו יותר חמקמקה. האם הסופרנטל אגנץ הזה יהיה בשליטתנו? או בשליטת מי שיצר אותו? וכך בעצם... להיות כאלוהים. בדיוק יאפשר לנו להגשים עד הסוף את הפנטזיה הקמאית הזאת. את מגדל בבל.

מטמיגדל בבל ייבנה בשתי מהלכים, לייצר סופר אינטליג'נס ושיש שליטה על סופר אינטליג'נס. עכשיו, האם אפשר יהיה לייצר סופר אינטלטנס, דיברנו על זה שאולי יש בטבע מגבלות, נכון? דיברנו על מהירות האור, יש בטבע מגבלות שאנחנו לא רואים, אולי גם כאן יש מגבלה שאנחנו לא רואים, אבל יש שאלה אחרת. האם זה יהיה בשליטתנו? האם יכול להיות מצב שבו ישות שהיא יותר אינטליגנטית תשלט על ידי ישות שהיא פחות אינטליגנטית? ומי שכפר בזה, זה האב המייסד של פריצת הדרך האחרונה של ה-AI, ג'פרי חינטון.

המכונה, the godfather of AI. כולם היו בניו. כולם היו בניו. הוא מגיע מאוניברסיט טרונטו. את ה-AI הזה מנסים לפצח על זה עשרות שנים, והוא עשרות שנים שהמון המון כסף נשפח לכאן, והכסף ירד את אימיון, ולא הצליחו לייצר את זה. ופריטל הדרך הגיע אצל הינטן כשהוא בא ואמר, היי אנחנו טועים, אנחנו לא שואלים השאלה הנכונה. אנחנו שואלים איך מייצרים אינטליגנציה שיכולה לחשוב ולאבד מידע ולהבין את העולם. אנחנו צריכים לחשוב על לא איך מייצרים אינטליגנציה שתבין את העולם, אלא איך מייצרים אינטליגנציה שתלמד על העולם.

Who is איך להבין מה מבנים הבסיסיים של המציאות איך חושבים, איך מאבדים מידע, אומר הינטן, אנחנו לא יודעים איך ליצור מוח מלאכותי, שיודע לאבד מידע ברמה גבוהה. אבל כן יודעים ליצור מוח שיכול ללמוד איך לאבד מידע. אנחנו צריכים לייצר מוח של תינוק. והוא ילמד לבד, וזה ה- Deep Neural Network. וזה מה שיצר את פריצת הדרך בתחום הזה של ה-AI. אז האיש הזה שאחראי על הפריצת הדרך של ה-AI, פתאום קלט, אוי לא, הדבר הזה הולך למקור הסוכנים.

‫שהוא לא יכול להיות האדם הענבי ‫שמטריע בפני הסכנה של ה-AI ‫בזמן שהוא שותף... ‫שהוא מועסק על ידי... ‫ושותף לתאגיד ששואף לייצר ‫את ה-AI המועצם והמסוכן הזה, ‫אז הוא פרש מאז... והשיחות של הינטן, הן שיחות מאוד מאוד חשובות, והוא באמת בר סמך. אז הינטן אומר, אם אתה חושב שהדבר הזה הולך להיות סופר אינטליגנטי ולשרט אותך, אתה חי בסרט. אתה חי בסרט. לטענתו אין שום דרך להנדס את זה, את ה-AI המועצם הזה, ככה שבוודאות נדע שאנחנו נשאר בשליטה על זה.

והסכרנו את הטיון הזה שלו כבר, הוא אמר, אין תקדים למצב שישות יותר אינטליגנטית נשלטת על ידי ישות שהיא פחות אינטליגנטית ממנה. זה לא מה שהולך לקרות, הדימוי של הינטן זה ש... כרגע שאנחנו משחקים עם ה-CHPT ועם Gemini וזה כל כך מדהים ואנחנו מתפעמים מזה ובצדק אנחנו מתפעמים מזה כל פעם זה mind blowing היכולות שלו משהו עושה וזה באמת מרגש זה באמת אז הוא אומר, זה כמו שאתה מגדל גור של נמר. הוא כזה מקסים בהתחלה, ואתה מלטף אותו, ואתה מתרשם... כוחת על תול קטן. כן.

ואתה חווה אותו ככה, וזה גורם של נמר, אבל הוא הרמלס. ויום אחד הוא הגדל. ואתה מאכיל אותו ומאכיל אותו, ואתה לא חושב לזה שהוא היית מאכיל את אותו דבר. שיום אחד יוכל אותך. אתה לא הולך לשלוט עליו. זה לא חתול באמת, זה רק מרגיש ככה בהתחלה. הוא הולך לטרוף אותך. זה הינטן. אומר אנחנו צריכים לרסן את זה, צריכים להעט את זה, צריכים רגולציה, כל הדברים שדיברנו עליהם.

אבל הנתן יש לו איזה הירור מעניין שהוא חלק בכמה מהשיחות שלו. הוא שואה דרך בחור של לייצר סופר אינטליגנצי. ושלא ירצה ברעתנו ושלא ירצה לחבות אותנו ולא ירצה כי הוא מפחד שאנחנו נחבא אותו כל תרחישי האימא האלה כשאמרנו מקודם שאין בכל הטבע תקדים לכך שישות פחות אינטליגנטית, שולטת על יותר אינטליגנטית, אומר הינטון, יש תקדים אחד. ומה התקדים הזה? היחס בין תינוק לבין אימא שלו. האמא היא הרבה יותר אינטלנטית מהתינוק, ועדיין מקובץ הצדריות של האמא?

התינוק. כן, יש כמובן יוצאים מן הכלל, אנחנו נוצרנו שומעים מדי פעם על סיפורים כאלה, אבל בדרך הטבע. היוצאים מן הכלל... הם מעידים על הכלל. הם מצביעים על הכלל, והכלל הוא שישות פחות אינטליגנטית שולטת את הסורה מלאה בישות יותר אינטליגנטית. ואומר, הינטון, בגלל שהאינסטינקטים האימא האימא האלה, אגב, אני מקווה שזה גם אינסטינקטים אבא האימא. כן, אינסטינקטים הוריים. אינסטינקטים הוריים. אז... הם נוצרו לדי מיליוני שנות ברירה טבעית, כי אם הברירה טבעית לא הייתה מייצרת אינסטינקטים כאלה, לא היו חיים בעולם.

הגורים לא היו שורדים. הגורים לא היו שורדים, הסיבה שגורים ה-helpless, השברירים האלה, התינוק, מצליח לשרוד, זה בגלל שהאימא היא all in, לספק אך ורק את הצרכים שלו, מה שמאפשר לה לפעמים לשכוח. ‫את הצרכים שלה. ‫אני לא יודעת איך זה בטבע, ‫אני יודעת איך זה בטבע האנושי. ‫-כן. ‫וזה באמת גורם לך הרבה פעמים ‫לשכוח את הצרכים שלך, ‫והוא קובע את סדר היום, ‫והחיים שלך מתהפכים ואת מתמסרת, ‫שוב, כבדרך הטבע... לפחות בתקופות האלה שבאמת התינוק לא יכול לשרוד בלי זה,

באמת היחסים הם שישות פחות אינטליגנטית שולטת בישות היותר אינטליגנטית. אז האיש הגאון הזה, הינטון, שוב משנה את השאלה. במקום לשאול איך זה יהיה עובד סייטן שלך, זה לא הולך להצליח. איך מפתחים את הסופר אינטליג'נס ככה? שיהיה לו אינסטינקטים אמהים. איך עושים את זה? אגב אומר, זה לא ברור איך עושים את זה. עכשיו, אינסטינקטים אמהים, אני אגדיר אותם, אני חושבת שיש יצור ששולט, וזה ביטוי לא נכון. זה ישות יותר אינטליגנטית שמרצון ומבחירה בוחרת להגביל את עצמה.

כדי לטפל בישות הפחות אינטליגנטית. והיא תרצה שהישות הפחות אינטליגנטית... שליטה זה לא המילה הנכונה פה. כן, הישות היותר אינטליגנטית כאן בהקשר כאן האם... מגבילה את עצמם. היא עושה הכל כדי שהישות הפחות אינטליגנטית תשרוד. שלא תשמית אותך, אלא היית תעשה הכל כדי שאתה תשרוד, כדי שאתה תסגשג, כדי שיהיה לך טוב. והוא אומר, זה בכלל הברור, איך עושים את זה, אבל הינטון מציע, בוא נשנה את השאלה, זאת השאלה, איך מייצרים מטרנל סופר אינטליגנטס? ולמה אנחנו תהיה אינסטינקטים אימאיים? בעצם מה אומר הינטון?

והוא נניח אנשים כמו מסק שרוצי נעצר סופר אינטליג'נס שהלכו נשלוט באמצעותו. אומר אינטון, לא נצליח לשלוט באמצעותו כי לא נשלוט עליו. אז אם נגזר עלינו להישלט על הסופר אינטליג'נץ? עדיף שזה יהיה כזה שמיטיב איתנו. כן. ואז בעצם, בוא נחשוב רגע על החלום ההינטוני. איזה ריאליה הוא מייצר כאן? ‫הקדומים האליליים, ‫אבל לא הפטריארכלים האלה ‫של האלים שבכוח, ‫הכוח שלהם שולטים על העולם וזה וזה וזה, ‫אלא לז'אניר אחר ‫בעולם האלילי הקדום של... ‫האלים המטריארחלים, ‫זאת אומרת, האם הגדולה, הגאיה...

‫אדמה... ‫-אדמה, כן, העילות הקנעניות ‫שככה מעניקות לנו חיים ו... ‫אבל הן גם יודעות לכעוס ו... ‫כדי לנקום כשצריך. ‫כן, כמו שאמא יודעת, ‫לשמור על הגורים שלה. וואו, אני רוצה... מיינר זה רנסנס, זה פנטזיה נאופגנית אחרת. כן. של איזשהו... מטריארכלית. של אימא גדולה ששומרת עליי. Let's look it must Hinton, stand back on the mask, I've got him can.

‫פטריארכלי כוחני מאשר סם אלטמן לחמוד ‫או דמיס הסאביס או משהו כזה. ‫הם רק נראים חמודי גפה. ‫-הם רק נראים חמודים. ‫אם לא, אוקיי. ‫אבל מסק הוא כאילו אלפה מילה ‫הרשמי של האירוע, ומול... Mulla misha la hintoni chelezhu em של האלה הקדמונית שקרמה לתחייה, אגב, זה הקריאה שלנו לתוך הינטון, לא יודע אם הינטון, מעניין מה הינטון היום אומר, איך שאנחנו רואים את המודל שלו כתחייה של איזה מיתוס פגני קדום.

שוב פעם, אגב כמו שאמרנו בפרק הקודם, אנחנו רגילים את זה שהסיפורים הדתיים הם בעבר, בעמק הסיליקון הם בעתיד, כל המיתוסים הם לא בעבר, הם חוזרים, הם בעתיד, אנחנו נייצר אותם, אנחנו ניזום אותם, וזה טירוף.

האחד, פרדיגמה אחת, זה יעניק לנו שליטה. שליטה טוטאלית, שליטה מוחלטת. פרדיגמת מסק. קשם קוד. קשם קוד. פרדגמה שנייה, זה לא יעניק לנו שליטה, זה ישלוט עלינו. אבל זה ישלוט עלינו בצורה ביטיבה. קראנו לזה פרדגמה טינטון. מה בעצם זאת היאני מחלוקת הזאת? מה עם שתי הפרדיגמות האלה? הזכורה זה מפה של העתיד. יש שתי עתידים אפשריים. אנחנו עכשיו בצומת. כן. והשאלה היא, לאן ההיסטוריה תפנה?

או לאן העתיד לפני, לכאן או לכאן, למאסק או להינטון. וממש ככה הינטון מתאר את זה, אנחנו בצומת, אם לא נלך ל-AI האם ההיא שלו, אנחנו הולכים ל-AI. שאנחנו חושבים שאנחנו לשלוט עליו ובאנו לשלוט עלינו, אנחנו בצומת וצריכים לבחר את העתיד שלך. עכשיו, לא בטוח שזה העתיד. כי בשביל להניח שזה העתיד, צריך להניח שיש סופר אינטליג'נט, ואז צריך להניח שבית אין גבולות בלתי נראים, ודיברנו על זה. אולי יש גבולות בלתי נראים, אנחנו פשוט לא יודעים.

בקווה שאנחנו לא שואלים עכשיו על העתיד של הבינה המלאכותית. אנחנו שואלים מה השיח על העתיד של הבינה המלאכותית בלמד אותנו כבר עכשיו. על הבינה האנושית ועל הרוח האנושית. אז אולי אלו שתי עתידים אפשריים. בפרק הקודם דיברנו על איך שתבניות מחשבה דתיות, נוטות לא למות, אלא רק לשנות הריזה. בפרק הזה אנחנו רואים שגם תביאות מחשבה אליליות, פנוטות לא למות, אלא לשעות הריזה, ועכשיו רואים רנסנס, ששתי סוגים של מיתוסים פגנים מופיעים חדש. פטריארכלי ומטריארכלי. בצורה של פנטזיות שונות לגבי העתיד של ה-AI.

אבל אני לא חושב שזה העומק של האירוע. העומק של העומק של האירוע. זה לא שיש כאן שתי מיתוסים שקמים לתחייה, אלא שאנחנו נוגעים כאן בשתי משאלות אנושיות שלא צריכות לקום לתחייה. הן תמיד היו שם. זאת אומרת, השאלה היא לא על העתיד. היא גם לא קשורה לעבר. היא בעצם על העובד. על העובד. על מי שאנחנו. ובתוכנו, בתוך כל אחד ואחת ביתנו, יש שתי משאלות בנו גדול. משלה אחת, זה הרצון שלנו להיות בשליטה, לשלוט על החיים שלנו, לשלוט על הסובבים שלנו, לשלוט על הכל. בעולם כל כך כאוטי ובלתי צפוי. זאת פנטזיה או שאיפה?

שאני חושב שלכולם יש, להגיע לשליטה כמה שיותר גדולה במציאות הכאוטית. ושפינוזה באה ההקדמה שלו למאמר תיאולוגי מדיני, הוא מסביר את המשאלה הזאת כך, ככל שהמציאות היא יותר עקראית ורנדומלית. ככל שאתה יודע ומבין שה... לא, אגב, לא צריך את שפינוזה בשביל להבין את זה. שהמזל הרע יכול להתהפך עליך בכל רגע נתון.

העולם מתהפך עליהם, ואתה יודע, בשנתיים האחרונות ראינו את זה הרבה בכל מיני הקשרים. וגם לא בהקשור של מלחמה, אלא סתם בשורה רפואית נוראית, פתאום נוחתת עליך או על קרוב משפחה שלך, ואנחנו מכירים את זה מקרוב, ו... כמה העולם הזה מרוקן מוודאות وكשהאשליה של הוודעות Nisdeket, omitroseket, kutame vin. שאתה לא יכול להבין שהמציאות הזאת היא שרירותית, כשברגעים אלה שאתה מבין את זה, פנטז, אתה שליטה, אומר שפינוזה, אלו הרגעים, שבמשאלה, תן לי איך, תן לי תקסים, תן לי דת, תן לי אלים, תן לי אי, איפה הסופר אינטליג'נס?

תן לי לשתות על המציאות, שמה זה... זאת משנה אחר... אבל יש עוד משאלה. דיבר עליה ערך פרום והיא משאלה פחות מדוברת, אבל... היא לא פחות חזקה. היא לא פחות חזקה. וזאת לא המשאלה לשלוט, זאת המשאלה להישלט. באופן מוזר, זאת המשאלה בדיוק הפוכה. והיא חיה לצד המשאלה לשלוט. יש לנו גם אותה. אריפה אומר זו משאלה שמועצמת על ידי החיים המודרניים שלנו. ככל שיש לנו יותר חופש ויותר אוטונומיה והאתוס האינדיבידואליסטי, כל הדבר הזה מגביר את החרדה שלנו ואת המשאלה שמישהו ישלוט עליי.

יש את ה... ולכן הוא קורא לספר שלו, מנוס מחופש. ואגב, ליטרלי, עשירים שיהיו הרבה זמן בבית סוהר. והתרגלו לסדר יום שבעצם שדד מהם את היכולת לקבל החלטות עבור עצמם. מתי לקום? מתי ללכת אישון? מתי לאכול? מה לעשות? וכשמתרגלו למשטר של בית סוער, כששחררו אותם. יש סיפורים על הסירים שפשוט עליהם אתגף חרדה מכולה. לא היה להם את היכולת לקבל החלטות עבור עצמם בעצמם, והם חזו לכלא. הם עשו פשע כדי לחזור לכלא. הם הרגישו יותר בנוח בבית.

סוהר, וזה לא עשירים, זה רק המשל. הנמשל זה אנחנו. אנחנו, בני אדם מודרניים, אומר רכפורם, יצאו מימי הביניים, קיבלו פתאום את כל החופש הזה. והחופש הזה זה כאילו חלום שמתגשם, ורבים חווים אותו, וכל אחד איתנו לעיתים חווה אותו, דווקא כסיוט. יש חוקר, סיכולוג חוקר, כל כך מעניין, בשם ברי שוורט. The paradox of choice. ויש לך צעת דד שממש כדאי לצפות בה. יש לו הבחנה מדהימה.

אדם שחשוב להמון מבחר, אתה יכול לבחור בין הרבה אופציות, הרבה חופשות, הרבה מוצרים, הרבה צורות חיים, הרבה קריירות, שאתה חשוף להרבה מבחר, רבים מאיתנו נקלעים למה שאם אני זוכר נכון את הביטוי שלו, option paralysis.

שאתה משותק מרוב מבחר, שיש לך חרדה, שאתה לא תבחר נכון, ואחרי שבחר, אז אתה כזה, וואו, לא בחרתי, נכון, וכל הדבר הזה יוצר אצל לך, בין עשית משאלה, שמישהו יבחר במקומי? אתה יודע, זה מזכיר לי, זה... אתה חושב, כשילד קטן, אז הרבה פעמים ילדים אומרים להורים, אתם לא תחליטו עליי, אתם לא תחליטו בשבילי, רק אני, רק אני, רק אני, ואז אתה מתבגר, ואתה מגיע לגיל, אתה יודע, אני בגיל הזה.

שפתאום אתה מגלה, וואלה, אני המבוגר האחראי. כן. כאילו, זה עליי, כל הדבר הזה זה עליי. כאילו, אני מדברת ברמה הכי אישית, משפחתית. ומה כול. קבלת החלטות ו... ‫ואז אתה אומר, רגע, ‫אני רוצה רגע לחזור להיות ילד. ‫אני רוצה לחזור להיות ילדה. ‫-כן. ‫שמישהו יחליט עליי ‫לחזור לאביב האלה, ‫שאבו ואמא קיבלו עליי, ‫החלטו את החלב, ‫זה לא באמת, זה לא באמת.

‫אבל זה לפעמים כן באמת. ‫-זה כן באמת, את יודעת, ‫את פשוט לא עושה, ‫את פשוט ממשיכה ‫לעשה את האחריות עם החרדה ‫שבא עם האחריות, ‫אבל לא כולם מצליחים. ‫את יודעת, שיש ביפן תופעה... של גברים מבוגרים, שחיים עדיין אצל ההורים, מסתגרים בחדר שלהם, כל היום על האינטרנט, במשרקים, הם פשוט פרשו מהעולם. הם לא יכולים לשאת את העולם הזה עם הסיפיות, ועם האחריות, ועם המחר, ועם המחר, ועם זה. עזוב אותי. היופנים קוראים איזה, אני מקווה שאני אוגעת את זה, נכון? ליקוקו מורי.

וזו תופעה שהולכת וגדלה, זה בדיוק מה שעריך פורמקינם מנוס מהחופש. אנחנו לא בורחים אל החופש, יש בנו משעה לבורך מהחופש. ואגב, זה לא רק ברמת הפרט, זה גם ברמת הכלל. זאת אומרת... ככה אריך פרום בעצם מסביר תופעות טוטליטריות, ואת היטלר ספציפית. נכון. כאילו, נכון אנחנו מכירים את הביטוי הזה, רוצים להניג חזק. זה איזושהי פנטזיה. שלפעמים בחייה של אומה, לפעמים, ואז התוצאות של זה באמת מאוד מאוד מסוכנות, אבל לפעמים כן, יש את הדבר הזה שיבוא מישהו חזק,

ויחליט עבורנו את ההחלטות לחזור להיות ילדים. אני זוכר שפרומק כל כך חזק, כשהוא מסתכל על גרמניה בשנות ה-30, הוא קטע את הספר הזה ב-41, הוא שם לב שבאותו להט שבו אנשים נאבקו למען החופש שלהם, بلعت הזה הם נאבקים כדי לוותר על החופש שלהם הרצון שלנו לשלוט הוא כל כך אנושי, הרצון שלנו להישלט גם הוא מאוד אנושי. כמה קשה להיות בן אדם בעולם הזה, לחיות בעולם שאין בו שליטה ואין בו ודאות, ומצד שני, יש בו אחריות. É muito difícil. O que é a super inteligência?

לגמרי. בתנאים האלה, בתנאים האלה, אתה אומר... אתה מבין את הפנטזיה? בואי אימא. כן, בואי אימא. אתה רוצה להגיד לי שגם יש לי אחריות על כל ההתנהגות שלי, ואני צריך לקבל החלטות, ואני צריך לשאת בתוצאות, ואני אחראי עליהן? Wie kann er nicht die Tale mit Sie?

זה הרע שבכל העולמות כביכול זה המשמעות של להיות אנושיים, וכפי שאמר, כמה זה קשה להיות אנושיים. اולי הפרט זה המובן המלא של צמד המילים Zælen, Elohim, sommer. אני לא בשליטה, אני לא אלוהים. אבל יש לי צלם, מה זה אומר? שיש לי אחריות, אני צריך להיות מוסרי, יש ממני ציפיות, גד. כאילו, הבדל קטן, אבל כל ההבדל. דיברנו על אלילות, על העצמי. על הנטייה של האדם לא לרצות להיות אדם. מה ההפך של אלילות? מונוטיזם.

למדתי פעם הבחנה מאוד מאוד עמוקה של מורי משה הלברטל. שומע מה זה המונוטיזם? שאלוהים הוא אחד. מה זה אומר? ששום דבר בעולם הזה הוא לא שלם. לאלוהים יש מונופול על השלמות. ולכן אין רעיונות מושלמים, ואין אנשים מושלמים, והרוסר שלמות הזאת, השבריריות, הפגמים, הסופיות, כל מה שאני רוצה לכאן, זה האנושיות שלנו. אז זה בעצם השלמה עם האנושיות שלנו. והשאיפה באמצעות, אם אנחנו פה חוזרים רגע לשאיפות, למוטיבציות.

‫להגיע לסופר אינטליג'נס, ‫השאיפה הזאת... ‫היא הכרשת האנושיות שלנו? ‫-כן. ‫אז אם זה מסק או הינטו, ‫כל השיחה הזאת, כל הפרדיקו... ‫שוב פעם, אנחנו לא שואלים כאן ‫מה זה אומר על הבינה המלאכותית עצמה. אלא מה השיחה הזאת מספרת לנו על הבינה האנושית או על הרוח האנושית. היוונים היו אומרים שנגזר עלינו לחיות בין שתי המשאלות האלה. שזו טרגדיה. ושזו הטרגדיה שלנו. המסורות היוונית והמסורות היו תצאו מסכימים כאן.

נגזר עלינו לחיות בין שתי המשאלות הבלתי מממשות האלה. המשאלה לשלוט והמשאלה להישלט. המסורת היהודית, בניגוד לאינטואיציה היוונית, לא הייתה רואה במצב האנושי טרגדיה. העובדה שאנחנו נגזר לנו לחיות בין משאלות לא ממומשות, זה לא הטרגדיה שלנו, זאת האנושיות שלנו. ולכן המסורת היהודית, אם בני לא הייתה רע בזה, את הטרגדיה שלנו, אלא את האידאל שלנו. למה זה טרגדיה? כי אתה ממולקד, אנחנו לא יכולים להשיג שליטה מלאה וככה לסלק מהחיים שלנו את אי-הבדאות. זה היה נחמד, אבל אי אפשר.

ואנחנו לא יכולים לכן לאבד שליטה בצורה מלאה. וככה לסלק מאחרים שלנו אותה אחריות. וככה נגזר עלינו להיות במולקדים מלאי אחריות וחסרי שליטה. ובמיתוס היווני יש סיפור על איקרוס, שאבא שלו בנה שהוא מבוך ענק כזה. שבסוף הסיפור הוא היה נעול ולחוט בתוך המלכודים של עצמו, בתוך המבוך של עצמו, בתוך דרך ללא מוצא. והדרך היחידה שהוא לצאת משם זה באמצעות טכנולוגיה. הוא אוסף נוצות. מדביק אותם ביחד בשעבה, ומייצר כנפיים, מדהים, זה המיתוס היווני העתיק, מייצר כנפיים, וכך הם יוצאים מהמבוך.

כן, הטכנולוגיה יכולה לחלץ אותנו מכל המלכודים האנושיים, מכל הטרגדיה האנושית. אבל רגע לפני שהם יוצאים לעוף, אז דדלוס אומר לבן שלו, איקרוס. כי זה ער לא לעוף גבוה מדי. הוא לא להתקרב לשמש. וכמובן, הוא לא עמד לפיטוי. הוא אף הכי גבוה שהוא יכול, כי זה מה שבני ה... זה החט... זה מי שאנחנו. התקרב מדי לשמש, השמש המיסע את השעבה, והוא התרסק ונפל לארץ. בפרקים האחרונים של העונה אנחנו ממשיכים במסע הפילוסופי והתיאולוגי שלנו אל שורשי הבינה המלאכותית ואל מה היא מלמדת אותנו על עצמנו.

תודה לניר לייס ולאור שמיר האורחים, למיכל עטיאס ולאיה לוית על ההפקה, ולניבה גולדברג ולמתן חיים מצוות הדיגיטל. כל העונות הקודרות של מפלגת המחשבות זמינות ביישומוני העסקתים, וגם באתר בית אביחי, שם תוכלו למצוא תכנים מעולים נוספים.