השיח סביב בינה מלאכותית מרוכז כולו בשאלה אחת: מתי יגיע המחשב לרמה של בן אדם? המושג AGI (בינה מלאכותית כללית – Artificial General Intelligence) הפך לסמל הניצחון של הענף – הרגע שבו תוכנה תוכל לעשות כל מה שמוח אנושי יודע לעשות, מפתרון משוואות ועד כתיבת מחזות. אלא שהתפיסה הזו מניחה בטעות שהיכולת האנושית היא קצה הגבול, ולא רק תחנה קטנה באמצע הדרך.
בפועל, מצב של שוויון בין בינה מלאכותית למוח אדם אינו נקודת איזון יציבה. הרגע שבו מערכת מגיעה ליכולות של המדען או המתכנת המוביל בעולם, הוא גם הרגע שבו היא מסוגלת לחקור ולשפר את הקוד של עצמה. המעגל הזה לא ייעצר כדי לנוח בנקודת השוויון. הפיזיקאי סטיבן הוקינג והעתידן ריי קורצווייל הצביעו בדיוק על המנגנון הזה: שיפור עצמי בלתי פוסק שיוביל ל"פיצוץ אינטליגנציה". השוויון הקוגניטיבי יימשך אולי כמה ימים או שבועות. משם, הדרך ל-ASI (בינה מלאכותית על-אנושית – Artificial Superintelligence) תהיה מהירה וחדה.
איור: AI
כדי להבין מה זו בינה על-אנושית, אל תחשבו על רובוט שמדבר כמו בן אדם, אלא על פער כמו זה שבין בני אדם לנמלים. דוגמה מוחשית לכך שכבר קיימת בשטח היא מערכת AlphaFold של חברת DeepMind (גוגל). בעוד שמדענים עבדו במשך עשרות שנים כדי לפענח מבנה של חלבון בודד במעבדה, AlphaFold פילחה בתוך זמן קצר את המבנה התלת-ממדי של כמעט כל החלבונים המוכרים למדע. היא לא חיקתה את דרך החשיבה האנושית, אלא פתרה בעיה ביולוגית בממדים ובמהירות שמוח אנושי פשוט אינו מסוגל להם.
הקושי המרכזי שלנו אינו טכני, אלא תפיסתי. במשך אלפי שנים התרגלנו לכך שהאדם הוא היצור החכם בתבל. נוח לנו לדמיין את ה-AGI כעוזר אישי ממושמע שמגיב לבקשות שלנו. אך ASI לא יעבוד בקצב הדיבור או החשיבה שלנו.
במקום לחכות לרגע שבו המחשב יישָמע בדיוק כמונו, האתגר הראשי הוא להבין איך מתמודדים עם תבונה שתעבור אותנו בסדרי גודל – ואיך שומרים על הערכים, על האתיקה ועל התפקיד האנושי בעולם כזה.
נפתלי מנשה, 12.08.26
2 מחשבות על “מֵעֵבֶר למגבלת הבינה האנושית: מדוע AGI הוא רק תחנת מעבר בדרך ל- ASI”
מפחיד ומרתק בו זמנית , מה יהיה מקומו של האדם בעולם שהבינה הזו שולטת בו. אנו עדים חיים להתפתחות שקראנו עליה בספרי המדע הבדיוני וגיחכנו ללמוד הדמיון המופלג של הסופר ..
אכן כן. אם כי אני שומע שבעולם החלו הפגנות נגד ASI. כנראה שאנשים מתחילים להתעורר