פרק 139 – מהפכת הבינה: מלתוס טעה

אתם מאזינים להסקת של בית אביחי. Everyone is talking about artificial intelligence, not artificial Genius. The greatest technology equalizer of all time. Not too. It is an agent. שלום, אני אפרת שפירה רוזנברג ואתם מאזינים למפלגת המחשבות. הסקט שבו מחגודמן ואני מדברים על הרעיונות שמאחורי הפוליטיקה. ובעונה הזאת, על הרעיונות שמאחורי המהפכה הגדולה שבדר... בלי מחלות, בלי מלחמות. עולם שבו כל הבעיות שלנו ייבטרו בידי ישות תבונית שאומנם נוצרה על ידי בני האדם, אבל שאנחנו כבר לגמרי לא נבין.

Ich mag mich fragen, warum? אבל יודעים מי לא סקפטי בכלל? תעשיית ה-AI. כל הכסף של התחום הושקע בתרחיש הזה שתביא אותנו למקום שבו האנושות מעולה. ‫שלום איכה. ‫-שלום אפרט. ‫אז לפני שאנחנו מתחילים ‫לצלול לתוך הבינה המלאכותית, ‫איי-איי, כל ההשפעות, ‫כל מה שהבטחנו שנעשה ‫בפרק הקודם בעונה הזאת.

עד שאנחנו מדברים על בינה מלאכותית, בואו נדבר שנייה על מה זאת בינה. אנושית. מה זה בינה בכלל? למה בינה מלאכותית? זה דבר כל כך גדול, כי מה זאת בינה בכלל? כל פעם שאנחנו פותחים איתו, לא סתם מסתכלים מסביב ראים פה שולחנות וכיסאות. ובניינים, או פותחים החדשות ורואים אירועים והתרחשויות, הכל זה בינה. זה אינטליגנציה מתערב את המציאות, מערבב את המציאות ומייצרת את המציאות כפי שאנחנו חווים אותה ומבינים אותה ואני רוצה לרגע שנחזור האחרונית לשנת 1798.

שבא שבא תומס מלטוס, פרסם את התיאוריה שלו, את התיאוריה החדרנית שלו, על לאן ההיסטוריה נושאה. הוא כותב בתקופה 1798 אל תוך המאה ה-19. זו תקופה שבה באירופה מתחילה להיות אופטימיות, והאופטימיות הזאת הופכת לתיאוריה. התיאוריה, המשגה של האופטימיות, של הרגש, זה תיאוריית הפרוגרסים. מה התוארית הפרוגרס? זה האמונה שההיסטוריה באופן דטרמיניסטי, באופן הכרחי, על אף שיש נסיגות, על אף שיש במפס on the road, על אף שיש לפעמים זה לא תמיד מסתדר, בגדול הכיוון שההיסטוריה זה לכיוון יותר טוב.

כן. ועוד יותר טוב. ועוד יותר טוב. ועוד יותר טוב. ואז הפך לשיר. זה הטזה של הקדמה, של הפרוגרס. נכון, זה הפרוגרס. ואז מטוס אומר, באמת, הפרוגרס זה האשליה. ההיסטוריה היא לא מתקדמת לאן שהוא. היא פשוט מעגלי. וככה זה נראה, זה הטענה של תומס מלטוס כשהתנאים הם טובים, ויש יותר בריאות, יותר שפע, יש לך יותר משאבים. אז יש יותר אוכל עליו שולחן, משפחות גדלות. וקצב גידול האוכלוסייה עולה, אומר טרומאס מלטוס, זה הטרגדיה שלנו, זה הבעיה שלנו, זה המצב שלנו כרגע, ואומר טרומאס מלטוס, המצב כרגע הוא כזה.

קצב גידול האוכלוסייה הוא יותר גבוה בקצב גידול המזון. והמשאבים נניח גם אנרכיה. אבל הוא התחל ספציפית למזון. הוא טען שקצב גדול אוכלוסייה הוא אקספוננציאלי וקצב גדול המזון הוא לינארי. שמה שזה אומר? שככל שעובר... נפתח פער וככל שעובר זמן הפער הזה הולך וגדל. הפער הזה לא יכול להישאר. לא יכול להיות שיהיה בעולם יותר אנשים מאוכל. אז הפער הזה נגזר עליו. להיסגר. איך הוא ייסגר? מלחמות. מחלות.

‫מחות או יותר. ‫-ורעב. ‫-ורעב. ‫זה השילוש של מלטוס. ‫-אוקיי. ‫השילוש ה... ‫לא קפש. ‫-הלא הקדוש. ‫זאת אומרת, הפער הזה ‫ייצר מלחמות. ‫מלחמות על משאבים, כן. ‫-על משאבים. ‫-כן. ‫הפער הזה ייצר מגפות. וכל אחד מהם, ושושתם ביחד, הסגרו את הפער. למה? בוא נגיד רק את המובן מאליו, כי אנשים מתים במלחמות, ואנשים מתים מרעב, ואנשים מתים ממגיפות, ולכן כמות האוכלוסייה תידלדל מחדש, ופה מגיע המעגליות שהוא דיבר עליה. ‫כי אנשים מתים, ‫אחרוסייה מצמצמת, ‫יש איזושהי תקופה לא טובה, ‫ואז לאט לאט...

מגיעה שוב תקופת רווחה, כי פתאום נסגר הפער, יש משאבים, יש רווחה, ואז עוד פעם טוב, אז מתחילים להתרווח, ללדת עוד ילדים, וחוזר חלילה. ההיגיון בטצע של מלטו זה שאין יותר טריטוריה חקלאי. זה כמות מוגבלת כמות הדונמים שמייצרים חיטה או אורז מטבע דברים, המשאב של המזון הוא מוגבל. האוכלוסייה גודל בקצב שיותר גדול, וככה נגזר עלינו המעגלית הזאת של מגפות, מלחמות ורעב.

כשמלטוס כתב על זה היו בעולם פחות מיליארד אנשים. הוא חושב שעוד רגע אין מספיק מזון בשביל להכיל אתם מיליארד מאה מיליון, אוקיי? את העוד קצת. המש בעולם... למעלה משמונה מיליארד אנשים. כן, כולנו מכירים את זה שיש עודף מזון. יש עודף מזון, הסיבה שיש בעולם כיסים של רעב, זה לא בגלל שאין מספיק מזון, זה בעיות פוליטיות. כן. אין מספיק סרקולציה של מזון. אתה שואל, מה קרה? למה נבואת מלטוס התבדה?

מה תומאס מלטוס? לא הבין. הוא במינים אחרות כסיסמה. מלטוס טעה. מלטוס טעה, זה סטיקר באוטו. מלטוס טעה. לבואות הזעם שלו התבדו. מה הוא לא הבין? משהו להבין שמאותו דונם אפשר לייצר יותר טבועה הרבה יותר איך? באמצעות טכניקות של דישון. באמצעות טכנולוגיות של השקיה. באמצעות המטסה גנטית של החיטה. באמצעות... אולי גידול במעבדה? יום אחד. יצירת זנים יותר אפקטיביים במעבדה, במילים אחרות. כשאתה לוקח את הבינה האנושית ומערב אותה בתוך השיאה החקלאית, קול דונם מפיק הרבה יותר תבועה, הרבה יותר פירוש.

הוא חשב שהמשאבים הם מוגבלים, הם לא הבינו שמה שסכל, מה שבינה עושה, היא הופכת משאבים מוגבלים להרבה פחות מוגבלים. לא שאנחנו מאחלים צימאון לעם האיראני, אנחנו כן רק פשוט מאחלים חוסר הציבות למשטר. האיראני, אתה שואלת, מה קרה שם? למה באיראן אין מים? ולאיחוד האמרויות יש מים? כן, מעבר למפרץ. נכון, לערב הסעודית יש מים, לישראל יש מים, בגלל שאין שום סיבה שיהיה... באמצעות תבונה אנושית אפשר להפוך מים אלוכים למים מתוקים. כמובן מגנון ההטפלה שיש בייחוד המהרויות, שיש בישראל, שיש בערב הסעודי.

זאת אומרת, הבינה האנושית הופכת למשאב המוגבל, מים, למשאב לא מוגבל. אגב, אותו דבר, תמיד מדברים על אנרגיה, ויגמרי הנפל. האנרגיה זה לא משהו مוגבל. כמה אנרגיה מוקרנת אלינו מהשמש. מה שמוגבל זה רק עדיין לא פיתחנו את הטכנולוגיה הכי אפקטיבית, שיודעת לאגור בצורה אקונומית את האנרגיה מהשמש. זאת אומרת, עוד קצת בינה, עוד קצת פיאנוח. ואנחנו נהפוך את האנרגיה למשאב לא מוגבל. מלטוס חושב שהמשאבים מוגבלים. הוא לא הבין מה זה בינה אנושית. אינטליגנציה.

הופכת משאבים מוגבלים ללא מוגבלים. או להרבה פחות מוגבלים. מכאן יוצא שהמשאב היחיד שהוא באמת מוגבל, זה הבינה. זה הבינה. ככל שהבינה היא פחות מוגבלת.

כל שאר המשאבים הם פחות מוגבלים. ואם נשווה ונעלה בתזה הזאת, זה נכון לא רק לגבי, אולי זה נכון בכלל לגבי הקטגוריה ששמעה בעיה. מה זה בעיה? בעיה זו התרחשות שברמה ההיפותטית העקרונית יש לה פתרון. אם אין איזה פתרון זה לא בעיה, זה טרגדיה. זה לא בעיה. לדוגמה? משהו שקרה בעבר. משהו שקרה בעבר הוא לא בעיה. כי אין לו פתרון, כי אפשר לתקן את זה. אם אפשר לתקן את זה, זה לא בעיה. אם יש לי זיכרונות רעים מזה, זה בעיה. ועל זה צריך לעבוד. אני אלך לתרפיה ואני מצליח לעבוד, אבל מה שקרה הוא בלתי הפיך.

איך שאני זוכר את מה שקרה, איך שזה מעצב אותי, מה שזה גורם לי להרגיש, זה בעיה. למה? כי עם זה ניתן להתמודד. זה כבר הגדרה מעניינת. הגדרה של בעיה זה רק משהו שאפשר להתמודד איתו. רק משהו ששאפשר לפתור אותו. כן. זאת בעיה. אני חושב שאנחנו נסכים שבעיה זו התרחשות שמזמינה אותנו לנהל שיחה על מה הפתרון. ואם אין שיחה נאפית זה לא בעיה זה לא אומר שזה לא דבר רע, כן? אבל רק אם אנחנו מקבלים את ההגדרה הזאת לבעיה

ולהגדיר, כל הבעיות שלנו הם אותו הדבר. כל הבעיות שלנו הם בורות במצבי צבירה שוונים. ההבדל בין בעיה אחת לבעיה אחרת, זה שזה סוג אחד של בורות וזה סוג אחר של בורות. זאת אומרת, כל הבעיות שבעולם הם מקרה פרטי, של בורות. של העדר ידע. כן. נניח, אם מישהו מת מדלקת גרון ב-1920, מסכן, כי הוא לא מת מדלקת גרון. אחי, בשנות ה-20 יגלו את הפניסלן, את האנטיביוטיקה.

אז אפשר אומר, הוא לא מת מהשריטה שהוא קיבל, הוא נשרט, וזה יזדהם, ואז הוא מת. אז הוא לא מת מהשריטה, כי הוא מת מהשריטה, אבל אפשר לעשות המשגה הגבוהה יותר, ולהגיד, הוא מת מההדר אינפורמציה. הוא מת מסוג של בורות. ‫אם המאה מקבלת אותה סריטה ‫את אותו כאב גרון... ‫10 שנים אחר כך. ‫10 שנים אחר כך הוא לא היה מת. ‫הוא מת מחוסר ידע. ‫הוא מת מבורות מסוג השוים. ‫מי שמת בשנות ה-80 מ-AIDS ‫בארסות הברית. ‫זאת הייתה מגפה. אנשים מתו בהמוניהם מ-AIDS.

היום אנשים לא מתים איידס. נכון, אז הם מתו ממה. יש ידע מסוים שלא היה להם באייטיז שיש להם היום. או התחלמות גלובלית. אנחנו סובלים היום, נניח, האם עוד מאה שנה אנחנו נגלה איך פותרים את גנת התחלמות גלובלית? בהנחה שההתחלמות הגלובלית לא תפתור אותנו קודם. נכון, נניח, יהיה פתאום איזו פריצה דרך מדעית ויגלו... שאם שופכים קפה שחור על האטמוספירה, זה סופג את כל הפחמן. כן, זה בטוח, אנחנו רגע משם. יש איזשהו פיסת אינפורמציה, יש איזשהו פענוח לשאלה הזאת, שאתה אומרת,

אם יש בי אנו אחלית חמות גלובלית, אז כרגע אם אנחנו סובלים מזה שהאוטו גילינו אותה. היום אנחנו לא יודעים איך לספוג פחמן לאטמוספירה בצורה עקולה, אנחנו לא יודעים עדיין לך לפתור את הבעיה הזו. אז מה זה את החרמוגלובלית? זה כמו למות מ-AIDS ב-80 או למות מכאב גרון? מדלקת גרון. מדלקת גרון ב-1920. כל בעיה היא בורות במצב צבירה אחר. אוקיי, מכאן יוצא.

שאם כל... שאנחנו עושים רדוקציה לכל הבעיות שבעולם לבעיה אחת. לבעיה אחת, חוסר ידע. מה זה בינה? בינה זה יכול לקחת ידע ולייצר ממנו עוד ידע. אולי זה אחת מהגדרות שבינה. בעוד בינה זה המנוע שמייצר אינפורמציה. זאת אומרת, כל הבעיות שלנו בעולם כמו כל המשאבים המוגבלים בעולם נובעות מכך שיש משאב אחד שהוא באמת מוגבל. והוא פיזית מוגבל, זאת אומרת, הוא... כן, אי אפשר לייצר הרב... כאילו, הוא מוגבל לקצב של הנוירונים, הוא מוגבל... זאת אומרת, גם נניח ניקח את הבן אדם הכי חכם, הכי...

‫איינשטיין. ‫-איינשטיין, כן. ‫-155 IQ. ‫-אני חושב ש160 ומשהו. ‫-160, את יודע מה, אני אפרגן לו. ‫-170. ‫-כן. אבל בסוף... זה עדיין מוגבל? זה מוגבל בתוך הגולגולת. נכון, זה מוגבל אשכרה למידו של הגולגולת. זה מוגבל.

כאילו קשה להגזים כמה AI זה רעיון שהוא mind-blowing כי זה ראי... ליטרלי. כן, מי. בואו נייצר אינטליגנציה מחוץ לגולגולת שלנו. קודם כל, היא לא מוגבלת בגולגולת, במימדיה הפיזית. לברות ברמה התיאורטית. אם האינטליגנציה האורגנית האנושית מוגבלת בין השאר למידות של הגולגולת, אם אתה עושה אוטסורסינג, אם אתה מייצר אינטליגנציה, זה ככה מוזר את זה מה שיחה לעשות, מחוץ הגולגולת תאורטית זה בלתי מוגבל. ואם זה נכון,

המילה כאן היא אם, יש מחלוקת, אבל כל ראשי התעשייה חושב שזה נוסע לשם לאינטליגנציה לא מוגבלת. או בשפה של היזמים והתעשייה, סופר אינטליג... אם זה נוסע לשם, ואגב, הערכות, אם זה יגיע לשם, זה לא עוד 200 שנה. 5 שנים. 5 שנים, 10 שנים. 20 שנה אולי. לשם זה נוסע. אז אם זה נכון שאין מהבעיות מוגבלות, רק אינטליגנציה מוגבלת, ואינטליגנציה הולכת להיות לא מוגבלת, אז אין משאבים מוגבלים, וזה יפתור את כל הבעיות. איתכרמות גלובלית, מחלות.

סרטן אולי אפילו מלחמות אולי אפילו מלחמות תפתרנו את כל הבעיות, איזה כיף שאת הרמבה מפרשת פרק יהודה א' וישעיהו שמדבר על עולם הרמוני גרזב עם כבש כל ההרמוני הזאת ובאותו פרק כתוב בתים עלי הארץ, דאה את אדוני כמה עם לי המחסים. אז חלקים את פרק י' של מורי נבוכים, הוא מריש קשר בין הדברים האלה. רק כשהעולם מתמלא בדאה, באינפלציה של אינטליגנציה, כל הבא אותי פטרון. וואו.

‫אני לא יודע אם הוא הבין ‫אם הוא חשב שהאינטליגנציה הזאת ‫תהיה אינטליגנציה מחוץ ‫את הגולגולת האנושית. ‫Super Intelligence. ‫תבדרנו את כל הבעיות. כמובן כשזה צריך להניח את כל ההנחות שלנו, שכל הבעיות הם רק חוסר ידע. ולכן סופר איטליגנציה שתייצר את הידע החסר, תמלא את הבורות, ובעולם ללא בורות זה עולם ללא בעיות. זה אוטופיה. גן עדן. זה גן עדן. גן עדן. כמו שאומרים חזל. צדיקים יושבים, ואתרותיהם בראשיהם. או מחוץ לראשיהם. ונענים מזיב השכינה. מדהים. וואו. אז אם AI יפתור לנו את כל הבעיות...

יש למה לצפות. זה יפתור את כל הבעיות, אבל חוץ מבעיה. חוץ מבעיה אחת קטנה. רק מה שנקרא The Last Man Standing. רק בעיה אחת. בעיה אחת נשארת לעמוד על הרגליים. הבעיה שתיווצר על ידי הבינה המלאכות. אז זאת אומרת, אנחנו לפני הטרייד-אוף, העסקתך לפני האוטימטיב, אנחנו ממהבינם, אנחנו יכולים להתפתור את כל הבעיות, אבל תייצר בעיות חדשות. ‫השאלה היא, מה הטרייד אוף ‫בין כל הבעיות שהבינה המלאכותית ‫הבלתי מוגבלת הזאת,

‫תפתור לבין הבעיות ‫שהיא בעצם תייצר. ‫-שהיא תיצור, כן. ‫והאם הטרד אוף הזה יהיה שווה? ‫או מולים אחרות, ‫האם אחרי שכל הבעיות האלה ‫היא פתרו ורק נהיה תקועים ‫אם הפתרון לבעיות האלה, ‫אם הבעיות של הבינם ‫אם אנחנו את עצמם? האם אנחנו נדגעגע, או נדגעגע מאוד לכל הבעיות שהבינה המלאכות התפטרה.

זאת בעצם השאלה הגדולה. בוא ננסה להתעמק שנייה במה זה הסופר אינטליג'נס הזה. מה המנגנון? איך מגיעים לסופר אינטליג'נס? כי אתה יודע, רוב האנשים כשמדברים איתם על בינה מלאכותית, היום, מה שיש להם בראש או לנו, אני אגיד את זה ככה, אנחנו מוגבלים לא רק על ידי הגודל הגולגולת שלנו, אלא על ידי משהו שהוא מחוץ לגולגולת שלנו, וזה הדמיון, אבל מסתבר שגם הוא מוגבל. כשאומרים לאנשים בעיניה מלאכותית, מה שיש לנו בראש זה כזה צ'אצ'יפיטי. ואנשים חושבים, אה, AI!

‫של עוד חמש שנים זה לא... ‫צ'אצ' אפיטי חמש, שיש היום, ‫זה צ'אצ' אפיטי... ‫-זה כמו עכשיו, רק הרבה יותר. ‫-זה כמו עכשיו, אבל יותר... ‫בלי טעויות, בלי זה... ‫-כן. ‫בלי אינוסינציות, כן. ‫-כמו שאומרים בתעשייה, ‫אם הצ'אצ' אפיטי של היום הוא... ברמה של תואר ראשון, אז צ'אט שפתיח חמש אמרו שהוא היה אמור להיות בדוקטורט. Can you reach a word lossam as a chat GPT shmone? Okay. אבל זאת הבעיה.

שלא על זה מדובר, אנחנו פשוט לא מצליחים לדמיין את זה. כדי להבין לאן כל זה הולך, או לפחות המובילים והמשקעים והראשים שהתעשייה והיזמים, לאן הם רוצים שזה ילך, לאן הם מחוונים שכל הפרויקט הענק הזה של AI ילך.

אז אנחנו צריכים להסביצר איזשהו מילון מושגים קצר. על מה הם מדברים, כאילו מילון, מילון שלהם. כן, מה הוצר המילים שהמאזינים שלנו צריכים להכיר כדי לעקוב אחרי השיחה הזאת? As musaki caddy AGI, lo AI AGI, Artificial General Intelligence, the HAD STIE. אינטליג'נס אקספלוז'ן איזשהו אירוע עתידי שהרבים מאמרים שהתרחש התפוצצות של אינטליגנציה גם בזה נגעת מעט ובקצה Superintelligent. Superintelligent.

מה הבדל בין AI ל-AGI? זה ההבדל הבא. AI is a narrow intelligence. זאת אומרת, זה אינטליגנציה שהיא מאוד מאוד טובה במשימה מאוד מאוד צרה, מאוד מאוד ספציפית. זאת אומרת, איך ברכב האוטונומי שמפתחים זו אינטליגנציה שיודעת לנהוג באופן אוטונומי ברכב. כן, יש AI למעצבים גרפיים. נכון. ויש AI לשפה. ללמס. כן, ויש AI ל... כיפול חלבונים, אלפה פורט, שזה פריצת דרך ביולוגית. ‫אבל כל דבר שיש לו AI narrow, AI specific, ‫הוא כמובן עושה את העבודה ‫הכי טובה שיש.

והוא תמיד יהיה יותר חכם ויותר מוסלח מאיתנו בכל משימה ספציפית. ה-AI שמשחק שח ינצח כל השחקן שח, כן? ה-AI שמשחק גו, אלפה גו, ינצח... כל השחקן בגו. אבל מה שיש לנו שאין לכל ה-AIs האלה, זה האינטליגנציה שלנו היא כללי. ומישהו אחר לא יודע, נהיה שיחה עם בן אדם, לא. עם אותה אינטליגנציה שהייתה, אפרת אני ואתה עכשיו ונהיה לי עם שיחה, עם אותה אינטליגנציה אנחנו... Achaki mailadimshan, veni nakbar, veni krassefer, vene coloh, intelligent he klait Ha AI's intelligent.

אז הזינוק הראשון שזה יהפוך להיות כללי AGI, ואז זה באמת יוכל להחליף כל בן אדם. הוא יהיה גם מישהו יכול לעבור ממשימה למשימה, בלי לשולם מחירי מעבר, ובכל משימה הרי הוא יהיה מדהים, אבל זה הולך להיות אורטיפישל ג'נול אינטליג'נס, זה תחנה הראשונה. ואז נניח שיש לך AGI. והוא עובד אצלך. מה הפקודה הראשונה? אם קוראים לך סם אלטמן עם Open AI, או אנדרופיק, או ג'מני, או מה המשימה הראשונה שה-AGI מקבל? תעצב בבקשה מערכת שבינה מלאכותית, שהיא משוד רגע.

وهو צריך לכתוב את הקוד, ואת כל הרעיונו, ואת הפיתוח של הגרסה הבאה של ה-AI. ויעשה זה יותר טוב איתנו, יותר מהר מאיתנו, ויעצר את הגרסה היותר משול רגלת של ה-AI. ‫ואז מה הפקודה שהגרסה ‫היותר רשוד רגעת שלו הייתה לקבל? ‫אתה יצא בבקשה את הגרסה? ‫-עוד יותר. ‫היותר רשוד רגעת. ‫וצאת אומרת שנקרא זה recursive, ‫זאת אומרת זה במינים אחרות, ‫את אנחנו מבין דהן זה נוסע.

אז אני רוצה לקראת, Intelligence Explosion. זה עוד מושג שכדאי להכניס כאן, Intelligence Explosion. זאת אומרת, יש כאן תיאוריה שיהיה רגע בהתפתחות של ה-AI, שהוא Tipping Point. איזה רגע אחד שבו זה פשוט יתפוצץ ויעוף קדימה וזה הרגע שבו הבינה המלוכותית תלמד לשדרג את עצמה באופן אוטונומי ואז היא פשוט תייצר את עצמה, תשפר את עצמה, תשדרג את עצמה עד אין סוף, בלי סוף שזה מוביל אותנו לסופר אינטלג'נס. עכשיו, אתה חיש לזה, שיש איזשהו תקרה, זה לא יכול לפרוץ אל עבר סובריטליגנציה.

אנחנו לא הולכים לייצב כאן, יש איגוד שהם הרבה הרבה יותר אינטליגנציות מאיתנו. רק צריך להבין, כאילו כשמדברים על סופר אינטליגנציה, זה, שוב, אמרנו, אמא, בן אדם הכי, אתה יודע, אנשים סופר אינטליגנטים, שמדברים לבני אדם, זה כזה 140 IQ, 150 IQ, 160 IQ, אנחנו מדברים פה על אלף. כן, זה פערי אינטליגנציה כל כך גדולים. שהאנלוגיה הרווחת היא כזאת. כשאנחנו נסתכל על הישות הסופר אינטליגנטית הזאת אנחנו פשוט לא נבין אותה. שהכלב החמוד שלך ג'ורדי מסתכל עלייך

כשאת כאילו הולכת לעבודה, חוזרת, הוא מבין משהו? לא נראה לי שהוא מבין מה אני עושה שם כל היום. כל עוד אני כזה משאירה לו כערה של מים ואוכל, ונותנת לו לטיפה כזאת מחורי האוזן כשאני חוזרת. אבל הוא לא מצליח להבין יותר מזה לגבי החיים שלך. ולמה את עושה דברים? לא כולם חושבים שזה מה שיקרה. יש כאלה שעסבורים שיש פה תקרה. ודעת מי חושב שזה כן יקרה? כל הכסף שבא עולה. שוב, מילולית. כל הכסף שבא עולה לפחות או יותר. זאת אומרת, הכסף הגדול מהמר שזה יקרה.

וההשקעות, לא במיליארדים, לא במאות מיליארדים, אלא בטריליונים, אני שמעתי הרצאה של ניל פרגסון. שאומר שזה יש היום מעולם משקע 20 טריליון דולר בבינה מלאכותית וההימור שה20 טריליון דולר היא רק יכולה להחזיר אחזר על ההשקעה רק אם אכן יהיה פריצה אל עבר AGI ו-Super Intelligent אני שמעתי עצמי אומר עכשיו תמידה 20 טריליון דולר ואני פתאום אני לא בטוח שזה לא יכול להיות שזה כבר הרבה כסף וזה פתאום לא משתדר אז אולי בכל מקרה מדובר כאן בטריליונים. בטריליונים של דולרים. עכשיו את הכסף הגדול מהמר על זה.

‫אז בהנחה שאת מאוד יכולה ‫שהכסף טועה, אבל... ‫-שזאת בעיה בפני עצמה, ‫עם הכסף טועה. ‫זה מעניין, עם הכסף טועה, ‫עם כל הכסף הזה יקרוס. ‫-לא, איך זה לא יהיה מעניין, ‫זה יהיה קטסטרופה, ‫זאת יהיה... זה יהיה משבר כלכלי. ‫אולי שהעולם טרם ידע, ‫ואנחנו נדבר בהמשך אחרונה ‫גם על ההשלכות של הסנריו הזה. ‫וזה יהיה מעניין? ‫-לא, זה יהיה מבעית. ‫זה לא יהיה מעניין, זה יהיה מבעית. ‫-אוקיי. Pero si el dinero no te va, entonces vamos a decir, como hemos dicho antes, inteligencia no se muestran. Super inteligencia.

ואם עכשיו נחזור אחורנית לכל ההנחות שאיתן פתחנו את הפרק הזה? אם אין משאבים מוגבלים, יש רק אינטליגנציה מוגבלת. אז אם יש אינטליגנציה לא מוגבלת, אז אין משאבים מוגבלים. ממש כמו נבואות בקראיות עתיקות. אין משאבים מוגבלים.

‫אז... ‫-איך נראה עולם שבו... ‫אין דבר כזה שנקרא חוסר ידע. ‫אז זה עולם ש... ‫-שבו יש ידע לא מוגבל, ‫בלתי מסתיים. שיכול לפתור כל בעיה. איך נראה עולם כזה? אולי בעצם תשובה לשאלה שלך, זה גם סיכום של כל הפרק הזה. ואולי מי שנותן את התשובה הכי טובה, זה דמס הסאבס. דמיס הסאבס הוא האב המייסד של חברה בשם דיפ מיינד זאת החברה הראשונה, היא נוצרה ב-2010. החברה הראשונה שהיה לה את ה... יומרה, לייסד AGI, Artificial General Intelligence.

וזה היה בתקופה, צריך להגיד, שאף אנשים חשבו שזה אמונת, זה לא דבר אמיתי. כן, חייזרים. כן, כן, זה לא משמע אמיתי. אבאמים, אבאמים. כן, אנשים אמיתיים לא משקיעים ויוזמים AGI, זה לא דבר... היום כולם מדברים על זה והכסף הגדול הולך לשם, אבל דמס הסאבס, הוא האמין בזה לפני כולם. אבל מעניין, מה הייתה המוטיבציה של המייסד של דיפ מיין, לפני שכולם הצטרפו, מה הייתה המוטיבציה שלו? אז המשפט המוטו של דיפ מיין ב-2010 היה, Solve intelligence.

יש אנשים שמנסים לפתור את הבעיה של העון, יש אנשים שמנסים לפתור את הבעיה של הסרטן. אבל כמו שאמרת קודם, כל הבעיות האלה הם פשוט חוסר ידע ומצבי צבירה שונים. אז אם נפתח AGI, כל שאר הבעיות ייפטרו. סולב אינטליגנצ, ועכשיו סולב כל כך. ולכל כיתה צריך לייצר מפתח שפתח את הכיתה. עד שמישהו אחד מייצר מפתח מאסטר. זה AGI. זה מפתח שפתח הכל. זה בעיה אחת, יש רק בעיה אחת. איך מייצרים AGI, אבל לפתור את זה? לא יהיה סרטן, לא יהיה התחלמות גלובלית. זאת אומרת, זה לא סתם איזושהי קונסטרוקציה פילוסופית שבנינו כאן בפרק הזה.

בלי... בלי מחלות, בלי מגפות, בלי עוני, בלי טיעון הדרכים, בלי... חמות בבעלית. כל הבע... כל מה שאנחנו מגדירים היום כבעיות בחיים שלנו. לאור, כל ההלכות שלנו. اימי הזינוק לבר סופר אינטלג'נס, זה התממשות רדיקלית של כל הפנטזיות שאי פעם היו לפני אדם. עולם הרמוני, אוטופי, משאבים לא מוגבלים וללא בעיות. אז בפרק הבא נתעמק בהאומנם הזה, וננסה למפות את התרחישים הכי דיסטופיים לאיך באמת נראה עולם כזה. אל דאגה, אחר כך נצייר גם את התרחישים האופטימיים, אבל בינתיים, קחו נשימה עמוקה.

תודה לניר לייס ולאור שמיר ארוחים, למיכל עתיאס וליה לוית על ההפקה, לוניבה גולדברג ולמתן חיים מצוות הדיגיטל. כל העונות הקודמות של מפלגת המחשבות סמינות ביישומי העסקתים, וגם באתר בית אביחי, שם תוכלו למצוא עוד תכנים מעולים נוספים.