פרק 148 – מהפכת הבינה: האוליגרכיה החדשה

אתם מאזינים להסקת של בית אביחי. Everyone is talking about artificial intelligence. Not artificial, it's genius. The greatest technology equalizer of all time. Not a tool.

שלום, אני אפרת שפירה רוזנברג ואתן מאזינות ומאזינים למפלגת המחשבות. ההסקט שבו מיכה גודמן ואני מדברים על רעיונות שמאחורי הפוליטיקה. ובעונה הזאת, על רעיונות שמאחורי המהפכה הגדולה שבדרך. מהפכת הבינה. דיברנו לא מעט במהלך הפרקים האחרונים על ההשלכות האפשריות של המהפכה הזאת, על כל מי ועל כל מה שאנחנו. על הגדרה הבסיסית ביותר של מה זה להיות בן אדם. אבל רגע, הרגע אמרתי שאנחנו פה כדי לדבר על הרעיונות שמאחורי הפוליטה.

אז כן, מתברך שמהפכת הבינה עומדת לשנות ואולי כבר משנה את הפוליטיקה ואת מבנה הכוח בחברה. הממשלה, בית המשפט העליון, יצחקתם אותנו. تعرفوا את בעלי הכוח האמיתיים ששולטים בנו. Shallom Michael Michael. המודרנה או ההתפתחות הרעיון הדמוקרטי בכל מיני דרכים. אבל דרך אחת לדבר על זה, זה באמצעות ההתבודנות על מקורות כוח. ושאולי המעבר הזה, מעת העתיקה או ממאה ביניים, לתקופה המודרנית, היא דרך הפריזמה של... מה היחס שלנו לבעלי כוח. תראי, אם מסתכל על זה בית העתיקה, במצרים תיפרו הערצה לכוח.

הראו הוא חלק מהפנתאון, הוא אלוהי, הכוח הוא אלוהי. בימי הביניים גם כן, אם אתה מולך עליי, אם אתה חזק, כנראה שאלוהים מינה אותך. אתה מושל בחסד האל. בתנך יש מהפיכה. בתנך מטפחים סנטימנט חלופי. לא הרצה לכוח, אלא חשדנות כלפי כוח. זה כל המסורת הנבואי. יופיע בזירה הציבורית ויארגן פוליטיקה חדשה, ובמידה רבה, את החדשה רוממת האינסטינקט המקראי ההוא. שאנשים בריאים בחברה דמוקרטית, פני חורים, מתמרצים אותם ומעודדים אותם לא להאריץ בעלי כוח, אלא לחשוד בהם.

ויש סיבה לטיפוח חשדנות. אז בתנך זה בגלל שרק אלוהים הוא המלך, ובני האדם בצלם אלוהים. יש כאילו הסברים תיאולוגיים למה אנחנו חושדים מכוח בשר ודם. אבל יש סיבות אחרות שקשורות לחירות שלנו, שאנשים, אגב, גם ברומטיקה, אבל שאנשים מודרנים, ולמה הם מטפחים חשדנות כלפי כוח. ¿Vas a mi dar la avana, avana amuca? שכל אדם או גוף שמצליחים לאסוף יותר מדי כוח ולרכז יותר מדי כוח מכל סיבה שהיא... מאיים על החירות שלנו. מאיים על החירות שלנו. האיום על החירות שלנו מגיע מריכוז גבוה מדי של כוח.

ואלו הרדארים שבהם אנשים בדמוקרטיים מסתובבות, איפה יש יותר מדי כוח ושם, לשם אנחנו צריכים להפנות את החשדנות שלנו. כן, את מוקד הכוח הזה צריך אולי... אני לא אגיד לפרק, אבל אולי לדלל. ומה שמוזר, שבתקופה האחרונה יש כמה אנשים, כמה אינטלקטואלים בעמק הסיליקון, שאומרים, חברים, כן, איכשהו הרדארים, תראה הרדארים, היום הרדארים האלה שדיברת עליהם, הם מהווהבים מאוד מאוד באדום בוהק ומהווהב,

כלפי מוסדות כאלה ואחרים בחברה ובפוליטיקה, ואלה יש יותר מדי כוח, ואלה אומרים שמוסד הזה יש יותר מדי כוח. וכולם נבקים את הנאבק הזה. כן. ומתחת לאף שלנו...

יש פה משהו שאולי הולך וצובר הרבה מאוד כוח, והאינטואיציות הדמוקרטיות שלנו לא מופנות לשם. כן, אנחנו לא שואלים... רגע, כי זה נשווה לנו מאוד מאוד מוזר ומאוד טוב האינטואיטיבי לחשוב שיש כאן... ما שמכנים טכנולוגיה, אתם יודעים שאנחנו מאמינים שזו טכנולוגיה, AI, והוא יהפוך ל-AGI, והוא יהיה super intelligent,

ואנחנו נאבט שליטה עליו, והדבר הזה בסוף, ישלוט עלינו. יצבור יותר מדי כוח וישלוט עלינו. אז אי אפשר לדמות את זה לעלייה של אף דיקטטור בעבר, זה כל כך חריק, זה כל כך שונה, שום היסטוריה לא יכולה לדריך אותנו כאן. זה לא נשמע סוביר אפילו, זה לא נשמע אינטואיטיבי בשום מובן, בבתחל מי שמדבר על זה בדרך כלל נשמע מוזר. בואו ננסה ככה לתמצאת בקצרה, מה הסנריו האפשרי, לאיך זה יוצא משליטה? כדי תמצאת, צריך להבין שתי מאה אפיינים של הטכנולוגיה הזאת. אחד, עד כמה זה זר, והשני, עד כמה זה אוטונומי. בואו נתחיל בזרות של זר.

אחד המשחקי שעה המפורסמים בעולם מתרחש ב-1997 בן גרי קספרוב לבן דיפ בלו. אדם מול AI. וה-AI ניצח את גרי קספרוב, את האדם. על זה דיברנו כבר באחד הפרקים. זה לא מאוד מפתיע ש-AI נצח את האדם בשח. כי כל מי שמשחק שח יודע שיש יתרון למי שיכול לחשב הרבה מהלכים קדימה להחזיק בראש המון אופציות, ולתמרן ביניהם, זה לא מפתיע שאיי-איי יותר טוב בזה מבני אדם. נכון? זה לגמרי סביר. ולא ששיחקתי פעם גור, אבל ממה שאני מבין, זה משחק שכל פעם שאתה מזיז את האבנים שעל המגרש, נפתחות המון אופציות. יש המון מהלכים אפשריים שונים.

אז אתה אומר רגע, אז מי שיכול להחזיק הרבה מהלכים בראש שלו ינצח, יש רק ביחד כמות המהלכים האפשריים במשחק גו, כשקראתי את זה נשמע לי לא אמין, זה כמסבר האטומים שביקום. Uh. שזה בעצם כמו להגיד אינסוף. אינסוף, נכון. זה כמו להגיד אינסוף. כף, אגב, בהתחלה נכנסתי שהכוונה היא כמספר האטומים על כדור הארץ, וזה גם מהנשמע לי הגזמה. לא, כמספר האטומים ביקום. ביקום. זאת אומרת, באמת, לצורך העניין, יש אינסוף, ליטרלי אינסוף מהלכים שאפשר לעשות, זאת אומרת ש...

מי שיש לו יתרון בלהחזיק רבה מהלכים בראש, זה לא הסיפור, אלא מה כן. מלצח מי שמצטיח לגבי איזושהי, לא מכוח חישוב יוצאת אופן, אלא אינטואיציה יוצאת אופן. מי ששיחק הרבה פעמים רוכש אינטואיציה לכיוון זרימה של המשחק הוא ינצח. ולכן האימור על האם AI יצליח לשחק ולנצח בן אדם, היה כל כך גדול בגלל ש... אינטואיציה זה לא משהו שחשבו שיש אותה לבינה מלאכותית. אינטואיציה זה דבר בהגדרה מאוד מאוד אנושי. ולכן, בני אדם, תמיינת, צריכו AI בגאו גאו נחשב, המבצר האחרון?

של האינטואיציה האנושית אותה איכות שיש לנו ואין לסיליקון הזה ואז טוב, אתם יודעים איך זה נגמר בסוף ב-2016? אלוף דרום קוריאה ב-Go משחק מול AlphaGo, שזה AI צר שנוצר על ידי גוגל בדיוק משווי המשחק הזה? ו-AI ניצח את הבן אדם. והסיבה... זאת הסנסציה מטורפת. אבל מה שחשוב בכל המשחק הזה, במיתולוגיה של העמק הסיליקון, על המשחק הזה מ-2016, זה מהלך ה-37. מה זה מלאך 37?

ה-AI מזיז את אחד מהאבנים, ואז האדם מזיז אחד, זה מהלך מספר אחד. מהלך מספר שתיים, עוד פעם כל אחד מזיז את האבנים שלו. מגיעים למהלך 37, וה-AI במקם אבן במקום על המגרש, شبن الأدم أبداً لا أشعر محلح كذلك لماذا؟ كذلك محلح שמי שעושה מהלכים מהסוג הזה, תמיד מובן. זה טעות של אנשים בלי האינטואיציה של המספר. טעות של מתחילים לא ניסיון. טעות של אנשים שאלה הם ניסיון.

‫וכשהוא עושה את מהלך 37, ‫אז זה אירוע שהוא משודר, ‫אנחנו ראים את זה. ‫-כן, כן. ‫סמצצציה באולבן. ‫-סמצצציה באולבן, ‫הפרשנים אומרים, ‫יש אולי טעות בתוכנה. יש בג במערכת. לי סידון עצמו אומר, השחקן האנושי קם כזה ו... יצא מהחדר. יצא מהחדר. מה צריך לחשוב רגע? מה קורה פה? והנחי, אוקיי, האדם עדיין שולט. ه-AI يובס על ידי האדם לא עושה טעויות כאלה כמו מהלך 37 ואז, פס פורורד לסוף המשחק מתגלגל, ה-AI ניצח את הבן אדם והמהלך שגרם לו לנצח בסוף התגלה בהפוך על הפוך היה המהלך שכולם חשבו שבגללו הוא ייפול מהלך 37.

מהלך 37 לתפס? במיתולוגיה של עמק הסיליקון? של תעשיית ה-AI? כרגע מכונן, כרגע שבו עדשים יתחילו להבין משהו על ה-AI. הם התחילו להבין שאנחנו לא מבינים את הדבר הזה. שהוא לא פועל כמונו. הוא לא למד מאיתנו ופשוט עושה את זה יותר טוב. נכון, הוא חושב אחרת מאיתנו. זה... הוא עושה כאן מה? יש לו ידע, יש לו... הוא רואה דברים שבני אדם אף פעם לא ראו. בן השרבי ישו אין לו קבעונות מחשבתיים. הוא לא חושב כמו בני אדם, רק יותר טוב. הוא פשוט לא חושב כמו בני אדם. זה לא שהוא חושב מחוץ לקופסה. אין לו קופסה.

הוא לא רק גדל במסורת, בתרבות, עם כיבונות, עם זה... כנראה שיש לו איזו אינטואיציה. אינטואיציה שאנחנו לא יכולים להבין אותה. באינטואיציה שלו הוא הבין משהו שאנחנו לא הבנו, שבני האדם לא הבינו, כל מי שישב בחדר לא הבין את זה. יובלנו אחר הרי מציע לקרוא לזה לא AI Artificial Intelligence, אלא AI Alien Intelligence. בינה זרה. זה חושב אחרת מאיתנו. אתה יודע, וזה חידוד חשוב בגלל שאני חושבת שהיום מדברים הרבה על איברים מלאכותיים. כאילו על לב מלאכותי, על...

כל התעשייה הזאת של המדבסות, שמדפיסות איברים, שהפתרו את בעיית השתלת איברים מן החי, זה פריצת דרך מטורפת. אבל הרעיון הוא שזה כמו איבר שיש לנו באופן טבעי, פשוט מדפיסים איבר מלאכותי. Who meet next the locomotiv Steve Austin is a millionim? שכאילו יש לו יכולות על אנושיות, לא לא לא, האיבר מתנהג כמו שמתנהג האיבר הטבעי פשוט. יצרנו אותו אנחנו. יפה. לא זאת הכוונה. זה לא בינה. כמו שלנו. כמו שלנו, פשוט הדפסנו אותה במחשב. אגב,

‫אולי אפשר יהיה להתפיס מוח במחשב, ‫זה יהיה מוח מלאכותי. ‫-נכון. ‫שפשוט אדם אולי שלא נדע ‫פגוע ראש או משהו כזה, ‫אפשר להשתיל אולי, לא ידעת. ‫-כן. ‫אבל זו אותו כוונה. ‫פה יש בינה. שהיא לא כמו שלנו, רק מלחודית, היא זרה. זרה. זה משהו. זרה. מתנהג אחרת, זאת חיה אחרת. מעט 37 זה אומר שנניח בתולדות המוזיקה, מייצרים מוזיקה בכל מיני קטגוריות. יש מוזיקת רוק ומוזיקת פופ ומוזיקת... ג'אז. ג'אז ומוזיקה קלאסית. כל מי שמייצר מוזיקה מתכתב עם אחת הקטגוריות האלה. והוא יוצר את זה מתוך המסורות האלה.

או פורץ אותם מתוך המסורות האלה. מתוך המסורות האלה הוא מתעלה עליהם. מה יקרה אם AI ייצר מוזיקה? שהיא לא מתוך שום מסורת, מייצר קטגוריה חדשה. Today, I bet the brooch.

הוא יכול לצייר מאוד טוב כמו זה וכמו זה, אבל אף אחד לא יוכל להמציא, אני יודעת, איזה ז'אנר כמו שפיקאסו המציא את הקיוביזם וה... מהלך 37 הוא אומר? מי אמר שלא, כן. להפך, הוא לא גדל במסורות שלנו. כן, אז הוא יכול לפרוץ אותנו. מהלך... בהיסטוריה של מהלכים צבאיים, חשיבה צבאית, גם הכי יצירתית היא מוגבלת לקטגוריות של הגנה, התקפה, פשיטה, מערב, עיגופים... יש איזשהו... כל מהלך צבאי, גם של אנשים הכי גאונים, הם מוגבלים לאשהו ז'נח צבאי.

יחשוב על מהלכים צבעיים חדשים, מהלך 37, זה רגע שבו אתה מבין, אנחנו מפתחים כאן בינה, זרה, זה אחר, זה שונה, וכאן צריך לעצור ורק להזכיר לנו משהו. בני אדם לא יגודים איך לשלוט על דברים שהם לא מבינים. מהלך ה-37. זאת תזכורת? אנחנו אולי מייצרים את זה. אבל זה לא אומר שאנחנו מבינים את זה. אגב, זה אולי הרגע שבו נולדה ההבנה שזאת לא טכנולוגיה. מה שדיברנו בפרק הקודם. כי טכנולוגיה מתאפיינת בזה שאנחנו... לוגוס, הלוגוס שלנו. לא רק שאנחנו עם הלוגוס שלנו יצרנו את זה, אנחנו גם...

מבינים איך זה עובד. אנחנו מבינים איך זה עובד. כשאתה נכנס לרכב, אז אתה מבין איך הרכב עובד, ו... אתה שולט בו. עכשיו, אם הרכב, מה שמכונה בשפה שלנו, יוצא משליטה... זה בג. זה בג. נכון. אז צריך ללמוד מה קרה אם מטוס מתרסק בגלל ש... היה איזה בג במערכת הזה שיש תחקירים ולומדים והמייצרן משפר את המודל, כי זה בג. זה לא בג, כמו שמקובל לומר סליחה על הכלישאה, זה פיצ'ר. זה שאתה לא מבין אותו, זה בגלל שהוא בינה, שהוא יזהרה לך. אתה לא יכול להבין אותו.

וזה המאפיין הראשון שאנחנו צריכים להבין, אבל הוא מצטרף לעוד מאפיין. המאפיין השני זה שהמאמץ של תעשיות ה-AI זה להפוך את הדבר הזה ליותר ויותר agentic. אגב, רבים חושבים שזה הולך את הפריצה של 2026, לא פחות מזה. שזה נהיה אייג'נטיק. כן, זאת אומרת, היא עובד כסוכן. עצמאי. אתה תתן לו משימה? והוא באופן אוטונומי יקבל סדרה של החלטות ויבצע את ההחלטות האלה עבורך, עבור המשימה. זאת אומרת, המעבר שהוא יהיה אייג'נטק אם עד עכשיו זה גורו,

אתה ניגרש, אתה שואל אותו שאלה, הוא נותן לך תשובה. הוא אורקל. הוא יודע הכל. וככל שהוא השתפר, פשוט התשובות שלו יהיו יותר טובות. יותר טובות, אז הוא נהיה יותר ויותר גורו. הוא יודע הכל, נותן לך תשובה. כל שאלה יש לו תשובה, אני... כן. היכולות האיג'נטיות זה שהוא הופך מגורו לג'יני. ג'יני זה כזה, זה לא... בדיוק, מה אתה רוצה? אני אקשיתי לך את זה. וכאן, בהפיכאות שלו לאיג'נטי, כאן נמצא הכסף.

כי היכולת שלהם שזה יחליף את האורך דין שלך, זה שיוכל לפעול באופן אוטונומי לקבל החלטות. או את הרוי חשבון שלך. את הרוי חשבון שלך. أو את המורה של הילד שלך. אתה רוצה שהוא תוך כדי יבין מה הכיוון הנכון ויקבל לך תורת באופן עצמאי, באופן אוטונומי? או את המנהל של החברה שלך. ואת המנהל... אגב, צריך להבין, גם את המנהל של החברה שלך, גם על הדברים האלה, הוא הולך להחליא... זאת אומרת, אנחנו אולי הרבה מאיתנו חולמים על זה שהוא יהיה כאילו הסוכן נסיעות שלנו, כן?

של כזה, תזמין לי, אני רוצה לנסוע למקום הזה והזה, תזמין לי, תסוע במקומות... זה יקל. לא, זה כאילו פנטזיור, אה, איזה יופי. אבל בואו נחשוב שלושה מהלכים קדימה. נכון, כן. אז עכשיו, אם אנחנו חושבים על רק שני הדברים האלה שאמרנו, שזו בינה שהיא זרה לנו, ושתהיה יותר ויותר אוטונומית, ומקבלת החלטות באופן עצמאי מאיתנו, בשירות שלנו בשלב ראשון.

אז כל מה שאנחנו צריכים עכשיו לעשות, זה לעצור מניים. ולחבר בין הדברים האלה. ולחבר בין הדברים האלה. שבינה שהיא זרה לנו, היא גם אוטונומית. היא מקבלת החלטות באופן שהוא אוטונומים מאיתנו. ועכשיו תוסיפו לשתי המרכיבים האלה, עוד מרכיב אחד, תוסיפו לזה עכשיו עוד הרבה עוצמה, עוד הרבה יכולות, עוד הרבה IQ, נוסיף לזה עוצמה, ומה אנחנו מקבלים? התשובה היא שאנחנו לא יודעים מה אנחנו מקבלים אנחנו לא יודעים מה דבר שיצא מהדבר הזה זה זר וזה אוטונומי, האם בקצה זה עדיין נהיה בשליטה שלי.

אליעזר יודקופסקי אומר, אין סיכוי שזה יישאר בשליטה שלנו, אנחנו מייצרים הזה ואנחנו נאבד שליטה על זה, כי זה לא טכנולוגיה, זה לא כלי שמגביר את השליטה שלנו על העולם, זה כלי שהשתלט עלינו ונאבד את השליטה. אוקיי, ו... כל השאר, דיברנו על זה, הם איפשהו באמצע. אלון מאסק אומר, מעל 50% שאנחנו נאבד שליטה. דרך יורם עודי, בנקן אנטרופית, 20 או 25% שאנחנו נאבד שליטה. התשובה היא שאנחנו לא יודעים אם אנחנו נוכל לשלוט על הכלי הזה או לא לשלוט על הכלי הזה.

מי שאומרים שהם לא יודעים, זה אלו שמייצרים את הכלי הזה? ואף על פי כן? הם שואטים קדימה. שואטים קדימה ומייצרים את הכלי הזה. אוקיי. אז זאת הייתה שאלה אחת. לגבי השאלה...

‫על השלוחות הפוליטיות ‫של הסיפור הזה של AI ‫ושל הדהירה קדימה אל עבר AI. ‫אז זאת שאלה עתידית. ‫האם הכלי הזה יצא משליטה? אבל יש פה עוד שאלה, והשאלה היא לא עתידית, על האם מתישהו בעתיד אנחנו נאבד שליטה על הכלי ומתוקף כך על החיים שלנו, אלא... האם במידה רבה אנחנו כבר עכשיו איבדנו שליטה על החיים שלנו. והתפנית בשאלה הזאת היא פשוט שאלה אחרת. ממה אנחנו מפחדים יותר? משה-איי יהיה יותר בידי חזק?

או שתאגידי ה-AI יהיה להם יותר מדי כוח. ואולי אנחנו תניחה צריכים לשאול שאלה, לא את השאלה ששאלנו עד עכשיו, על AI שיגרום לנו בעתיד לאבד שליטה, אלא אולי תאגידי ה-AI... הם כל כך חזקים כבר היום שאנחנו כבר עכשיו? כבר אין לנו שליטה על החיים שלנו? הפך בקושי מודעים לזה. זאת אומרת, אין לנו שליטה על החיים שלנו, לא במובן של, אתה יודע, אני עכשיו יוצאת מפה, ואני הולכת להחליט לאן אני נוסעת וכולי, לא במובן הזה. אלא במובן הזה,

הדמוקרטיה העמוק של אנחנו לא שותפים בהחלטות הגדולות שמתקבלות, ושיש להן השלכות הרות גורל על החיים שלנו. היום, כבר היום. זה כל ההבטחה של דמוקרטיה. לא בטוח שמניע אתה עושה את מה שאתה חושב שצליחה לעשות, אבל אתה שותף לתהליך קברת ההחלטה. בשנים האחרונות יש קבוצה די קטנה של אנשים, עצולת ה-AI, שקיבלת ההחלטה הכי דרמטית אולי בהיסטוריה האנושית. Le Fater AGI.

לפתח סופר אינטליג'נס. עכשיו, מה שחשוב כאן, שעל פי החישובים שלהם, עשרים וחמש אחוז שזה מוביל, אם אתה דריו המודעיו, לאובדן שיטה ושמדת האנושות. עכשיו, התוצאות של ההחלטה שלהם משפיעות על כולנו. אבל אנחנו לא היינו בחדר שהחתה הזו התקבלה. למשלה מה הדבר דומה? אם יש 25% אם אתה דאר יועמודי ויש 20% שהאינטלגנציה הזו תביא לחורבה לעולם, האם את עית עולה על מטוס שיש 20% שהוא התרסק?

‫אני מניח שלא. ‫והיו אומרים לך, ‫אבל לפרט המטוס הזה ‫לוגח אותך לגן עדן. ‫לעולם, בלי סרטן, ‫בלי מחלות, בלי עוני. ‫זה סופר-אינטרנגן ‫לוגח אותך לגן עדן. כן, זה תלוי באיך אנשים מתמחרים סיכונים, ואנחנו יודעים שאנשים שונים יש להם... נכון. אישיות של לקיחת סיכונים שונה. מה שחשוב זה... שצריך לשאול אותך. שצריך לשאול אותך. שיש על פי החישובים שלהם 20, 30, 50% שהוא יתרסק. יש סיכוי שהוא גם מפתור את בעיות העולם. יש סיכוי שהמטוס הזה יגיע ליעד שלו.

כולנו על המטוס הזה, אבל רק מעטים איתנו בחורו לנו על המטוס הזה, זה הסיבה שאנחנו במידה רבה כבר עכשיו. מבלי שסיפרו לנו, איבדנו נתח משמעותי מהריבונות שלנו, מהשליטה שלנו לחיים שלנו.

אוקיי, ניקח רגע נשימה. כל תרחישי הפי דומים האלה, ה-25 אחוז שהמטוס יתרסק, ‫או ה-99 אחוז שהמטוס יתרסק ‫או ה-50 אחוז שהוא יתרסק. ‫או יען לקון, אחוז בודד. ‫-כן, או יען לקון שכאילו... ‫-יכולת על יען לקון אני עולה המטוס. ‫אתה פשוט טס ישירות לגב נדן. ‫כל התרחישים האלה... هم רק בהנחה ‫שמגיעים לסופר אינטלג'נס. ‫-כן. ‫יש הרבה אנשים סקפטיים ‫לגבי עצם היכולת להגיע לסופר אינטלג'נס. ‫יש כל הסקפטית שאומרת, ‫כל הדבר הזה, מי שחושב שהמכונות האלה...

יהיו באופן אקספוננציאלי, כבר זה אני יותר אינטלגנטיות ויותר אינטלגנטיות, הם לא רואים את התקרה שזו הולכית נגש מה בקרוב. בואו נבדוק מה קורה אם התרחיש הזה לא מתממש עם הקפיצה אל עבר, סופר אינטליג'נס לא מצליחה. אוקיי, אז אם אנחנו הולכים בנתיב הזה, שבסוף כל המאמצים האלה לא יבקיעו בסוף לעבר סופר אינטליג'נס, מה קורה אז? אז אני רוצה להציג כאן איזושהי תזה שהיא מוססת על עבודה של מרק טילברי. הסטרקטורה של הכלכלה, אולי העולמית היום זה כזה.

יש שבע חברות. שבע חברות שהן יוצרות את כל ה-AI ואת האקו-ססם של ה-AI והתשתית של ה-AI. מכונים אותם The Magnificent Seven. וזה אמזון, שיש את החברות שרתים, וזה מייקרוספט, שיש את היחסים השארגים OpenAI, שמייצר את גם חברות שרתים וגם אלגוריתמים, ואפל. זה ארבע. ומטה. פייסבוק וגוגל, כן? דיפ מיינד, זה גוגל. טסלה. וטסלה, שמייצר אגב, לא רק הרכב, הם מייצרים AI, הם מייצרים את הרובוטים העתידיים. שבע חברות האלה, The Magnificent Seven.

המסחרות בנאסטק הם עוד שבע חברות בנאסטק. לכאורה, רק שהערך שלהם הוא כמעט 40% בנאסטק. ראיתי איפשהו שהם 75% מה-S&P. וואו. ואני ראיתי איפשהו ש-50% מהצמיחה של ארצות הברית בשנה האחרונה, 50% מהצמיחה, זה מההשקעות ב-AI. זאת אומרת, שכרגע הסטרוקטורה של המשק האמריקאי הוא מאוד ריכוזי. ושבע החברות האלה צריך פשוט להגיד את זה, כי אנחנו לוקחים את זה כמובן מאליו שזה מובן, אבל אולי זה לא. שבע החברות האלה מושקעות מאוד בפיתוח.

סופר אינטליג'נס. זה מה שהם עושות. זה מה שהם עושות. המטרה שלהם זה לא לפתח את ה-CHPT7, או את ג'מיני, לא יודעת איזה מספר הוא, או... המטרה היא AGI. המטרה היא AGI. נכון, זה המטרה המוצהרת, זה המטרה... זה הזהב. את הערך הריאלי של החברה היום. ההכנסות שלהם, ביחס לערך שלהם, הן קטנות מאוד. הוא משקף את הערך העתידי שלהם. זאת אומרת הוא משקף את האופן שבו אנשים מנבאים, מאמינים, משערים שיהיה ההכנסות העתידיות שלהם. הדרך היחידה להצדיק את הפער הגדול בין הערך המנופח של החברה לבין ההכנסות היחסית מעטות שלה

זה להגיד שהחברות האלה ימצאו את הזהב. את הנפט. הם יבקיעו אל עבר ה-AGI ולעבר ה-Super Intelligence. ואם זה יקרה...

אז ההשקעות יחזירו את עצמן, וזה לא הייתה בועה. כן. אבל מה יקרה אם הם לא יפקיעו לעבר סופר אינטליג'נס? מה יקרה אז? או שזה יתעכב מאוד, הסופר אינטליג'נס, או זה יהיה הרבה יותר מאכזב עם מה שכולם חשבו. זאת אומרת שכל הטריליונים האלה שמושקעים, זאת אומרת, אנחנו נריכים לדמות את זה להרבה מאוד חברות שמשקיעות, בקידוח הינפט, חלק המשקיעות. בקונגו הזה. אני בטוח שזה המכשיר. לא, וחלקם משקיעות במכניקה של המכשיר עצמו, נכון? בשבבים, בחברות שרתים, חלקם משקיעות, ויש פה בכוח אדם, ויש פה טכנולוגיה, ויש פה...

כל המשאבים האלה מושקעים בלקדוח ולחפש נפט, כי מאמינים שהנפט נמצא שם... והנפט יחזיר את כל ההשקעה. אנחנו ברגע שנגיע לנפט... ‫כל ההשקעה הזאת תהיה ‫מאית. ‫-זה האמונה של המשקיעים. ‫-כן, אז כבר דיברנו ‫על מה קורה אם מגיעים לנפת. ‫הוא עשוי להתפוצץ ‫ולחלוט את כדור הארץ. ‫-אבל... מה קורה אם כל ההשקעה הזאת הולכת ואין נפט, או שמגיעים בסוף לאיזה שלולית של נפט שלא מצליקה את ההשקעה? זו אומר שהיינו בבואה, הבואה מתרסקת, ויש משבר כלכלי אדיר בגלל שכששבח, צריך לזכור את המבנה הריכוזי. כששבע החברות האלה קורסות,

את מים לוקחות ביחד איתם? את כל השוק יורד יחד איתם. במילים אחרות? בין אם אנחנו מודעים לכך ובין אם אנחנו לא מודעים לכך, כולנו תלויים בחברות האלה, וקריסה שלהם היא קריסה שלנו ברמה האישית, היא של המדינות שלנו, היא של העולם המערבי. זה אומר משבר כלכלי. משבר הכלכלי גדול שכולנו סובלים ממנו משבר הכלכלי גדול. אני רוצה רגע לחשוב על תרכיש המשבר הכלכלי. התרכיש שאנחנו בבואה, והמשמעות היא שה-AI מוליך אותנו כשהבואה תתפוצץ למשבר הכלכלי. יכול להיות שזה משבר כלכלי שהוא שונה ממשברים קודמים.

בגלל שאנחנו כבר בתוך משבר, לא כלכלי, אבל פוליטי. בישראל, בארסטה ברית, כמעט בכל מדינות המערב, יש משבר פוליטי. תוק פוליטי, שיש שנאה יש רעל, יש כיתוב מטורף, ויש אובדן אמון במוסדות השונים. マコレ מה קוראים את שופכת אל תוך המשבר הפוליטי? משבר כלכלי. משבר כלכלי? חסר תקדים. אבדלה. אלה אנשים כסף, אנשים כועסים. איך זה נראה? איך נראה התלכדות המשברים? עכשיו, יפרד, זה איום שלצערי, אנשים לא רואים אותו. הוא אסור להיות בדרך. אם המשבר הפוליטי הנוכחי יצטרף משבר כלכלי... זה לא יגמיר טוב. אני חושב שיהיה דם ברחובות.

ואז זה גורם לך לחשוב רגע. אז הלוואי שיגיעו ל-AGI. שזה לא יהיה בועה. שלא נגיד שימצאו את הנף בסוף. שימצאו את הנף. ‫ופתאום עליות אנרגיה ירדו ‫כי הפתרות בעיית האנרגיה, ‫ה-AGI, יפתור הכול ‫ולא יהיה סרטן ולא יהיה מחלות. שכל השפע הזה ייכנס, הבועה לא תתפוצץ, כי היא לא הייתה בועה, כי ההשקעות היו מוצדקות, כי הערך האדיר של אינווידיה ואופן איי מצדיק את עצמו, הכל יסתדר. בעצם מה שאנחנו ננסים לומר כאן, שעצולת ה-AI לקחו הימור על הכסף של המשקעים שלהם. A while Michael Spamura, so I'm gonna. זה קורא לנו ביחד.

ואם רגע נחבר את החלקים השונים של מה שאנחנו מנסים להגיד כאן ביחד. ונחזור לאותה צומת שבה האנושות עומדת, וצריכה להחליט, האם היא מעדיפה? ‫שיגיעו ל-AGI או מעדיפה ‫שלא יגיעו ל-AGI? ‫אז קורא לך עכשיו כזה. ‫עכשיו אנחנו בסכנה ‫שמשבר כלכלי. ואם הגיעו ל-GI, הסכנה הזאת תחלוף. אבל אז אנחנו במשבר קיומי. כמו שעשינו זה, המרנו סיכון בסיכון. המרנו סיכון כלכלי, בסיכון קיומי. ולזה קוראים בחזל אוילים יצרי ואוילים יוצרי. אבל שתי הסיכונים האלה,

אנחנו לא בחרנו להיות במצב של בועה וסיכון כלכלי. זה ישפיע על החיים שלי, אבל אני לא השפעתי על זה. מי כן מקבל את ההחלטות האלה, בוא נגיד שוב? ועל הסיכון הקיומי, אני לא קיבלת ההחלטה, ואת לא. מי? את סולת ה-AI. Sam Altman, OpenAI. אילון מסק, דרי ועמודי, דמס הסאבס של גוגל דיפ מיינד, קבוצה מושטפה סולימן ממייקרוסופט, קבוצה די קטנה של אנשים. ההחלטות שלהם, Jetzt wurde der Goralfell Kohl Schara Nashi.

איך נקראת שיטה פוליטית שבה קבוצה מאוד קטנה של מעט מאוד אנשים מקבלת החלטות עבור קבוצה מאוד מאוד גדולה של אנשים בלי לשאול אותה, בלי להתייעץ איתה ובלי שהם יוכלו להשפיע עליה? אוליגרכיה. עכשיו, הדבר המדהים הוא שאני מוכנה לאמר. ‫ששמולים אחוז מהמאזינים ‫והמאזינות שלנו לא הכירו 90% ‫מהשמות שאמרת עכשיו. כי אנחנו עסוקים מאוד בדמוקרטיה שלנו. בדמוקרטיה שלנו, כמה היא מתפקדת, כמה היא לא מתפקדת, מי משפיע יותר בית המשפט העליון או הכנסת או הממשלה.

‫ואנחנו בדקנו את זה בגוגל טרנד. ‫-נכון. ‫איזה שם מוכר יותר, השם של מאי גולן ‫או השם של סם אלטמן? ‫-נכון. ‫או כשאתה כותב בגוגל, ‫דמיס הסאביס... היזם של דיפ מיין מישהו מוביל אותנו לעבר AGI כן, הוא רק התוצאה החמישית בחיפוש

של גוגל. של גוגל עצמו, בן אדם, את איזה מקום העבודה שלך לא רואים. כותבים דמיס, יש איזה זמר יווני שקופץ לפניו. ולעומת זאת, כשאנחנו כותבים את השמות של הפוליטיקאים שלנו, בלי להעליב אף אחד ובלי להיות כאילו פרובינציאלים מדי, כולנו מדברים על כל המדמנה הפוליטית המאוד מאוד נמוכה ובוטסית שאנחנו נמצאים ואנחנו... כמטפורה ולא כמטפורה, חופרים בחול כדי למצוא סמארטפון, במקום להבין שכולנו הולכים לשקוע בתוך חול תובעני שבקצה שלו אין סמארטפון, יש תהום.

הקשב הפוליטי שלנו צריך להיות מופנה כמו זרקור לאיפה שהכוח נמצא. איפה שמקבים החטות שמעטבות את גורלנו. כרגע, כמעט כל הקשב שלנו נמצא בתוך הפוליטיקה המדינתית. הבעיה היא שלא כל הכוח ניצר הפוליטיקה המדינתית. נתרכים אדירים של הכוח נמצאים מרוץ לפוליטיקה המדינתית. הם נמצאים בעצולת ה-AI. והכוח נמצא שם, אבל הקשב הפוליטי שלנו, החשדנות הפוליטית שלנו, היא לא נמצאת שם. יש גם בעיה מבנית. הבעיה היא כזאת. מדינות מחויבות לאזרחים שלהם. המערכת התמריצים עובדת כך שפוליטיקאים רוצים לרצות את המצביעים שלהם.

כן, זה קצת הבעיה, כולנו חיים בתוך העידן הפופוליסטי הזה. נכון, אבל... כן, אבל לפחות המדינה מחויבת לאזרחים שלה. כן, ואנחנו מכירים את זה, אנחנו בסוף, אתה אומר, אם יש איזה נציג שלנו, ששלחנו אותו לפרלמנט, והוא בוגד... בהבטחות שלו, אז אנחנו יכולים לבוא אחרי 4 שנים ולהגיד לו, אתה מפותר. זאת אומרת, אם יש כוח למדינה, יש כוח לאזרחים. תאגיד לעומת זאת, חברה כלכלית גדולה, שלא מחויבת לאזרחים, היא מחויבת רק לבעלי המניות.

מכאן יוצא, שאם תאגידים יותר חזקים ממדינות, ואם תאגדים משפיעים על החיים שלנו יותר עם מדינות, אנחנו הבאנו שליטה על החיים שלנו. וכאן סביב ה-AI אנחנו רואים תהליך שבו תאגידים משפיעים על החיים שלנו יותר ויותר, ולגבי השעות הכי גדולות יותר ממדינות, ולכן איבדנו שליטה על החיים שלנו. וזה כבר קורה, ולא מדברים על זה, ושזה אנחנו צריכים לדבר על זה. והדרך היחידה להחזיש תיתה לחיים שלנו, ויגבירו את מידת השליטה וההשפעה שלהם על תעשיית AI.

לבוא ולקחת מונופולים ולפרק אותם, זה מה שהמדינה צריכה לעשות, למנוע מהצטברות של כוח. היא צריכה להטיל רגולציה על סוג הטכנולוגיה שיוצרים, ולפקח עליה, לראות שזה לטובת האזרחים. יש את הבעיה של מרוץ החימוש עם סין? יאללה, איפה היוזמה המדינתית? לייצר איזשהו... אמנה בינלאומית. כמו שהאמנה למניעת הפצת נשק גרעיני, בואו נתחיל לדבר על זה, אבל עם טכנולוגיה, יש גם רעיונות, מכונים מחקר עובדים על דברים, אבל דברים האלה רק יקרו אם זה יעניין את הציבור.

כי התמריצים הם עובדים ככה שמנהיגים פוליטיים, מוכרים סיכונים פוליטיים איפה שיש. כמריצים פוליטיים, איפה שיש רווחים פוליטיים, ואין רווחים פוליטיים איפה שאין עירנות פוליטית. זאת אומרת, העובדה שהקשב שלנו מוסעת רק לתוך הפוליטיקה המדינתית, מאפשר ל... מרכזי כוח חלופים להתפתח, לצבור עוצמה, להשפיע על החיים שלנו, מבלי שיש לנו השפעה עליהם. וכך נראה תהליך של אובדן הריבונות שלנו, והמודרניות שקרסה אל תוך עצמה, המודרניות שבאה עם בשורתה מעכשיו הריבון, אותה מודרניות שהלכה והתפתחה ויצרה טכנולוגיה יוצאת דופן,

אתה מרגיש שאתה הריבון, אתה חושב שאתה הריבון, אני משפיע על המדינה, כל הפוליטיקאים מנסים לרצות אותי כל הזמן, אתה מרגיש שאתה הריבון, אבל מה שלא שמת לב, אולי המדינה מנסה לרצות אותך. אבל המדינה... היא כבר לא קובעת, או קובעת הרבה פחות ממעבר, את הגורל שלך. הכוח נמצא במחווים שבהם ההשפעה שלך כבר לא נמצאת. וזה לא עתידנות, זה קורה כבר עכשיו. בפרק הבא נמשיך לדבר על איך מהפכת הבינה עומדת לבצע רעידת אדמה בסדר הפוליטי הקיים, כפי שאנחנו מכירים אותו.

תודה לניר לייסט ולאור שמיר ארוחים, למיכל עטיאס וליה לבית על ההפקה, ולניב הגולדברג ולמתן חיים מצוות הדיגיטל. כל העונות הקודמות של מפלגת המחשבות זמינות ביישומוני העסקתים, וגם באתר בית אביחי, שם תוכלו למצוא תכנים מעולים נוספים.