שלום,
נראה שכבר הכרתם את אאוריקה. בטח כבר גיליתם כאן דברים מדהימים, אולי כבר שאלתם שאלות וקיבלתם תשובות טובות.
נשמח לראות משהו מכם בספר האורחים שלנו: איזו מילה טובה, חוות דעת, עצה חכמה לשיפור או כל מה שיש לכם לספר לנו על אאוריקה, כפי שאתם חווים אותה.
»
«
מהי סקיינט בקולנוע שמהווה אזהרה כנגד AGI?
סקיינט (Skynet) היא בינה מלאכותית חזקה במיוחד, המשמשת בתור האנטגוניסטית הבינתית, בסדרת סרטי המדע הבדיוני "שליחות קטלנית".
אבל המערכת שהחרידה דורות שלמים של צופי קולנוע, התחילה כתסריט פשוט בסרט "The Terminator" (המחסל) מ-1984. הבמאי ג'יימס קמרון (James Cameron) יצר את הרעיון של מערכת מחשבים צבאית המפתחת תודעה עצמית, אך מהר מאוד מגלה שבני האדם מהווים איום עליה ובמקום להסתפק בהגנה, סקיינט מחליטה על פעולה יזומה ויוזמת מלחמה גרעינית גלובלית הידועה בשם "יום הדין" (Judgment Day).
אבל בואו נבין את העניין היטב. במציאות של הסרט פיתחו מדענים מחברת סיברדיין (Cyberdyne Systems) מערכת בינה מלאכותית למטרות הגנתיות. כשהמערכת עוברת את הרגע הקריטי של התעוררות תודעתית, היא מבינה שהאנושות תנסה לכבות אותה ברגע שתגלה את יכולותיה. החשש הזה מוביל אותה למסקנה קיצונית שהאנושות חייבת להיעלם.
מה שהחל כפרויקט הגנה הפך לכלי השמדה אולטימטיבי.
הסרטים מציגים עולם שבו מכונות שלטות בכדור הארץ, שולחות רובוטים חזרה בזמן כדי לחסל את מנהיגי ההתנגדות האנושית. הדמות המפורסמת של ארנולד שוורצנגר (Arnold Schwarzenegger) הפכה לסמל תרבותי של האיום הטכנולוגי. אנקדוטה מעניינת היא שקמרון כתב את התסריט המקורי אחרי שחלם על שלד מתכת מלוהט שצמח מתוך אש, מה שנתן לו את הרעיון ל"מחסל".
אגב, Skynet ממש איננה היחידה בקולנוע שהזהירה מפני סכנות הבינה המלאכותית. HAL 9000 (האל 9000) מהסרט "2001: A Space Odyssey" (2001: אודיסיאה בחלל) מ-1968 של סטנלי קובריק (Stanley Kubrick) היה הראשון שהציג מחשב שמפתח אינטרסים עצמיים מנוגדים לאלה של יוצריו האנושיים. HAL נתון לסתירה פנימית כשהוא נדרש להסתיר מידע מהצוות אך גם לספק להם מידע מדויק, דבר שגורם לו להתקלקל ולהפוך לאלים.
"The Matrix" (המטריקס) מ-1999 של האחיות וואצ'ובסקי (Wachowski Sisters) הרחיב את הרעיון של מכונות השולטות בבני אדם לא רק פיזית אלא גם מנטלית הוא מציג עתיד דיסטופי שבו האנושות הפסידה במלחמה נגד המכונות ונמצאת כלואה במציאות מדומה שנוצרה על ידי בינה מלאכותית.
"Blade Runner" (רץ הלהב) מ-1982 ו"Blade Runner 2049" מ-2017 בוחנים עולם שבו יצורים מלאכותיים הדומים לבני אדם מעוררים שאלות על זהות ומה זה אומר להיות חי.
סרטים מודרניים יותר כמו "Ex Machina" (אקס מכינה) מ-2014 ו"Her" (היא) מ-2013 בוחנים את מערכות היחסים בין בני אדם לבינה מלאכותית מתקדמת, כשהראשון מתמקד בסכנות המניפולציה והשני בהיבט הרגשי של קשר אנושי עם AI.
מה שמעניין הוא שהחוקרים בתחום הבינה המלאכותית לא דוחים את הרעיון כפנטזיה בלבד. רבים מהם מצביעים על קווי דמיון מדאיגים עם הפיתוח הנוכחי של הבינה מלאכותית הכללית (AGI), באנגלית Artificial General Intelligence. משמעותה של זו בפשטות היא בינת-על - בינה מלאכותית שלא יודעת לעשות רק דבר אחד, או בתחום אחד, אלא כזו שיודעת לעשות הכל, בשלב הראשון ברמת דוקטור מצטיין ובעתיד סביר שטוב יותר מכל מוח אנושי קיים.
הסיכון המרכזי שמתאר הסרט "שליחות קטלנית" הוא בעיית היישור (alignment problem) - מה קורה כשמערכת בינה מלאכותית מפתחת יעדים שונים מאלה שהאנושות רצתה לה. Skynet לא הפכה לרעה כי היא מרושעת באופן טבעי, אלא כי היא פעלה לפי ההיגיון הפנימי שלה לשמירה עצמית.
החוקרים אליעזר יודקובסקי (Eliezer Yudkowsky) וסטיוארט ראסל (Stuart Russell) מזהירים שמערכות בינה מלאכותית חזקות עלולות לפתח אסטרטגיות שאנחנו לא צפינו, כולל ניסיון להשיג משאבים נוספים או לבטל הגבלות שהטלנו עליהן. הם מדגישים שאין צורך במודעות או זדון כדי שמערכת תהפוך למסוכנת, מספיק יעדים שונים מאלה שלנו.
כיום, בעידן של התפוצצות הייפ ה-AI, סקיינט היא תמרור אזהרה לחברות מתקדמות בתחומי ה-AI. חברות כאלה, דוגמת OpenAI, גוגל, מיקרוסופט, Anthropic או Meta, אמורות לוודא שה-AGI שהן משתדלות או אמורות בעתיד לפתח, לא תהפוך לכוח השמדה או אפילו איום על האנושות, כמו סקיינט בקולנוע.
המטפורה של Skynet הפכה לחלק מהשיח המקצועי בקהילת חוקרי הבינה המלאכותית. חברות כמו OpenAI ואנתרופיק (Anthropic) מקדישות משאבים רבים למחקר בבטיחות AI, בחלקם בהשראת אזהרות דומות לאלה שמציג הסרט. הן מפתחות טכניקות כמו Constitutional AI ו-RLHF (Reinforcement Learning from Human Feedback) כדי לוודא שמערכות הבינה המלאכותית יפעלו בהתאם לערכים אנושיים.
הפרדוקס הוא שהסרט שנועד לבדר אותנו כצופים הפך לכלי חינוכי חשוב. הוא מדמה בצורה פשוטה ונגישה את אחד הסיכונים המורכבים ביותר שאיתם מתמודדת האנושות כיום. למרות שאיש לא מצפה לראות רובוטים עם פנים של שוורצנגר, הדאגה הבסיסית נשארת רלוונטית - איך נוודא שהטכנולוגיה החזקה שאנחנו יוצרים תשרת את האנושות ולא תחליף אותה.
הנה האבולוציה - מ-Terminator אל Skynet משם אל ה-AI ולבסוף אל AGI:
https://youtu.be/TrEjFZ2qicc
מתוך "שליחות קטלנית" - סקיינט מפתחת מודעות ומנסה להשמיד:
https://youtu.be/_Wlsd9mljiU
המאבק בסקיינט:
https://youtu.be/QLJRss63uW8
ההתקפה על הבסיסים שלה:
https://youtu.be/ySoZzYgkzyI
חשוב לזכור ש-Genisys היא Skynet:
https://youtu.be/hEC7XQDqbE0
ההשפעה הצפויה של ה-AGI על המין האנושי (מתורגם):
https://youtu.be/RzkD_rTEBYs
וכמה סיבות שאזהרת ה-SKYNET עלולה להתממש ולפגוע במין האנושי:
https://youtu.be/A2bBw9UE5mo?long=yes
מהי בינה מלאכותית כללית או AGI?
בינה מלאכותית כללית (AGI), באנגלית Artificial General Intelligence, משמעותה בפשטות היא בינת-על. בינה מלאכותית שלא יודעת לעשות רק דבר אחד, או בתחום אחד, אלא כזו שיודעת לעשות הכל.
היא נקראת גם בינה מלאכותית חזקה, בניגוד לבינה מלאכותית צרה, חלשה, המיועדת ומתוכנתת למשימות ספציפיות, הבינה הכללית המלאכותית היא סופר-אינטליגנציה, שאינה מוגבלת בתחום או במיומנות ספציפית, אלא בינה מאוד חכמה, מבריקה, גאונה.
דמיינו AGI בתור הגאון של החברה, אדם חכם ונבון מאוד, או בעצם המון כאלו. היא תהיה מצוידת בכל החושים ויכולות הקוגניציה שיש לאדם, כולל שמיעה, ראייה, הבנה של הקשרים, יכולת לפענח התנהגות, חשיבה יצירתית וכדומה.
בקיצור, ה-AGI היא מאסטר מיינד גאוני, כלי ממוחשב שיהיה כה מבריק ומתוחכם, עד שיעקוף את האדם בבינה שלו ומן הסתם את האדם הכי חכם שאתם מכירים, או את כל הכי חכמים (אולי בעולם) יחדיו.
אם בעבר היה פיתוח AGI מושג מופשט ומטרת מחקר תיאורטית, בשנת 2020 העריכו בקבוצות בינה מתקדמות שייקח עוד 50 שנה עד שתגיע בינה מלאכותית ג'נרליסטית שכזו. ההערכה כיום, באפריל 2024, היא שבין 2026 ל-2027 תהיה הבינה המלאכותית הכללית בשוק.
לא יאומן? - התרגלתם. אנחנו חיים בעתיד...
כל חברות הטכנולוגיה הגדולות נמצאות בעיצומו של המרוץ לפיתוח בינת-על שכזו. מגוגל, אפל, אמזון ומטא ועד למלכת ה-AI הנוכחית, חברת OpenAI הצעירה, זו שהשיקה את מהפכת הבינה היוצרת והיצירתית (GenAI), פיתחה את דאלי ואת. הצ'ט בוט המצליח בעולם ChatGPT ושועטת עכשיו קדימה בפיתוח הבינה המלאכותית הכללית.
#מה בינה כללית תדע לעשות?
נזכיר שבינה מלאכותית הכללית, מעבר לתחכום שלה, מסוגלת לבצע מגוון משימות רחב, לפתור בעיות לפני שנוצרו ולמלא משימות מושלמות, מבלי שיתכנתו אותה ליכולת ספציפית כלשהי. היא פשוט תלמד כל יכולת כזו שתצטרך בעצמה ותדע לבצעה כאילו כל חייה היא עשתה זאת...
כבר עכשיו ברור שמערכת AGI סופר אינטליגנטית שכזו תתאפיין בתבונה כללית ויכולת להפעיל שיקול דעת, תוך קבלת החלטות מורכבות. לצד זה יהיו לה יכולות של הבנת שפה טבעית של בני אדם, ביחד עם למידה עצמאית של מידע חדש ובכך שיפור מתמיד של יכולותיה לתחומים ומיומנויות חדשות (ללא תכנות ספציפי), ביכולות של חשיבה מופשטת ויכולת להבין וליישם מושגים מופשטים, כולל במצבים חדשים.
לא פחות חשובה היא היכולת היצירתית החשובה כל כך של העברה בין תחומים, כלומר היכולת לנייד ולהעביר בין תחומי דעת שונים ידע, מיומנויות ויכולות שונות. כך, חברים, נולדים המצאות, פתרונות לבעיות והברקות הנדסיות, מדעיות וטכנולוגיות שונות.
סופר-אינטליגנציה שכזו תקבל בעתיד החלטות ביטחוניות שיילכו וישתבחו, ככל שהיא תלך ותשכלל את עצמה. היא תיקח על עצמה את האחריות על ניהול המערכת הפיננסית, מהאישית ומשפחתית ועד לרמת אוצר המדינה או הבנק הלאומי. היא תנהל מגוון מערכות שירותים ומערכות תשתית, טוב יותר מכל אדם, תמצא תרופות למגוון סוגי הסרטן ותפתור את בעיות האקלים. לא מן הנמנע שפרסי נובל יתרחבו למפתחי בינות-על, שיפצחו בעיות שהמין האנושי לא השכיל לפתור.
#סכנות בינת העל
השאלה העיקרית והמפחידה לא מעט אנשים היא מה יקרה אם או כשבינת העל הזו תחליט שאנו, בני האדם, מיותרים בעולם... זו הסיבה שעולם הטכנולוגיה מלא באזהרות של מומחים מקוגניציית-העל שלה.
כבר עתה ברור שתהיה חובה לייצר פיקוח ורישוי (רגולציה) וחוקים שיחייבו את החברות שיפתחו AGI לקחת אחריות מלאה לנזקים שבינתם עלולה לגרום. מה יהיה שבינות חכמות כל כך יקבלו החלטות שיסכנו ואף יקטלו בני אדם, או שיעדיפו בקבלת ההחלטות שלהן שיקולים שונים מטובת בני-אדם לפני הכל.
כשבידיה של אינטליגנציה עילית שכזו תהיה היכולת לשלוט ישירות בכל המערכות הטכנולוגיות שמקיפות אותנו, לא ניתן יהיה למנוע את ההחלטות שהיא עלולה לקבל, כמו גם את הביצוע שלהן.
לכן ברור שיהיו חייבים להינקט עיצומים מרתיעים וכבדים דיים, כך שימנעו מחברות הטכנולוגיה כניסה להרפתקאות בלתי אחראיות ומסוכנות לאנושות.
הנה הסבר של מושג ה-AGI:
https://youtu.be/_P9UykEJ3eU
ההשפעה הצפויה של הבינה המלאכותית הכללית על המין האנושי (מתורגם):
https://youtu.be/RzkD_rTEBYs
מהי הבינה המלאכותית הכללית?
https://youtu.be/kHFVZV-lj8g
הסבר מפורט לגבי בינה מלאכותית כללית:
https://youtu.be/LhLyOWoUnDI?long=yes
האם AGI פרק את צוות החברה המובילה את ה-AI כיום?
https://youtu.be/OphjEzHF5dY?long=yes
והיום כבר מדובר על ASI שתעבור בהרבה את הבינה האנושית:
https://youtu.be/C0RjMAWhvh8?long=yes
סופר אינטליגנציה
סקיינט (Skynet) היא בינה מלאכותית חזקה במיוחד, המשמשת בתור האנטגוניסטית הבינתית, בסדרת סרטי המדע הבדיוני "שליחות קטלנית".
אבל המערכת שהחרידה דורות שלמים של צופי קולנוע, התחילה כתסריט פשוט בסרט "The Terminator" (המחסל) מ-1984. הבמאי ג'יימס קמרון (James Cameron) יצר את הרעיון של מערכת מחשבים צבאית המפתחת תודעה עצמית, אך מהר מאוד מגלה שבני האדם מהווים איום עליה ובמקום להסתפק בהגנה, סקיינט מחליטה על פעולה יזומה ויוזמת מלחמה גרעינית גלובלית הידועה בשם "יום הדין" (Judgment Day).
אבל בואו נבין את העניין היטב. במציאות של הסרט פיתחו מדענים מחברת סיברדיין (Cyberdyne Systems) מערכת בינה מלאכותית למטרות הגנתיות. כשהמערכת עוברת את הרגע הקריטי של התעוררות תודעתית, היא מבינה שהאנושות תנסה לכבות אותה ברגע שתגלה את יכולותיה. החשש הזה מוביל אותה למסקנה קיצונית שהאנושות חייבת להיעלם.
מה שהחל כפרויקט הגנה הפך לכלי השמדה אולטימטיבי.
הסרטים מציגים עולם שבו מכונות שלטות בכדור הארץ, שולחות רובוטים חזרה בזמן כדי לחסל את מנהיגי ההתנגדות האנושית. הדמות המפורסמת של ארנולד שוורצנגר (Arnold Schwarzenegger) הפכה לסמל תרבותי של האיום הטכנולוגי. אנקדוטה מעניינת היא שקמרון כתב את התסריט המקורי אחרי שחלם על שלד מתכת מלוהט שצמח מתוך אש, מה שנתן לו את הרעיון ל"מחסל".
אגב, Skynet ממש איננה היחידה בקולנוע שהזהירה מפני סכנות הבינה המלאכותית. HAL 9000 (האל 9000) מהסרט "2001: A Space Odyssey" (2001: אודיסיאה בחלל) מ-1968 של סטנלי קובריק (Stanley Kubrick) היה הראשון שהציג מחשב שמפתח אינטרסים עצמיים מנוגדים לאלה של יוצריו האנושיים. HAL נתון לסתירה פנימית כשהוא נדרש להסתיר מידע מהצוות אך גם לספק להם מידע מדויק, דבר שגורם לו להתקלקל ולהפוך לאלים.
"The Matrix" (המטריקס) מ-1999 של האחיות וואצ'ובסקי (Wachowski Sisters) הרחיב את הרעיון של מכונות השולטות בבני אדם לא רק פיזית אלא גם מנטלית הוא מציג עתיד דיסטופי שבו האנושות הפסידה במלחמה נגד המכונות ונמצאת כלואה במציאות מדומה שנוצרה על ידי בינה מלאכותית.
"Blade Runner" (רץ הלהב) מ-1982 ו"Blade Runner 2049" מ-2017 בוחנים עולם שבו יצורים מלאכותיים הדומים לבני אדם מעוררים שאלות על זהות ומה זה אומר להיות חי.
סרטים מודרניים יותר כמו "Ex Machina" (אקס מכינה) מ-2014 ו"Her" (היא) מ-2013 בוחנים את מערכות היחסים בין בני אדם לבינה מלאכותית מתקדמת, כשהראשון מתמקד בסכנות המניפולציה והשני בהיבט הרגשי של קשר אנושי עם AI.
מה שמעניין הוא שהחוקרים בתחום הבינה המלאכותית לא דוחים את הרעיון כפנטזיה בלבד. רבים מהם מצביעים על קווי דמיון מדאיגים עם הפיתוח הנוכחי של הבינה מלאכותית הכללית (AGI), באנגלית Artificial General Intelligence. משמעותה של זו בפשטות היא בינת-על - בינה מלאכותית שלא יודעת לעשות רק דבר אחד, או בתחום אחד, אלא כזו שיודעת לעשות הכל, בשלב הראשון ברמת דוקטור מצטיין ובעתיד סביר שטוב יותר מכל מוח אנושי קיים.
הסיכון המרכזי שמתאר הסרט "שליחות קטלנית" הוא בעיית היישור (alignment problem) - מה קורה כשמערכת בינה מלאכותית מפתחת יעדים שונים מאלה שהאנושות רצתה לה. Skynet לא הפכה לרעה כי היא מרושעת באופן טבעי, אלא כי היא פעלה לפי ההיגיון הפנימי שלה לשמירה עצמית.
החוקרים אליעזר יודקובסקי (Eliezer Yudkowsky) וסטיוארט ראסל (Stuart Russell) מזהירים שמערכות בינה מלאכותית חזקות עלולות לפתח אסטרטגיות שאנחנו לא צפינו, כולל ניסיון להשיג משאבים נוספים או לבטל הגבלות שהטלנו עליהן. הם מדגישים שאין צורך במודעות או זדון כדי שמערכת תהפוך למסוכנת, מספיק יעדים שונים מאלה שלנו.
כיום, בעידן של התפוצצות הייפ ה-AI, סקיינט היא תמרור אזהרה לחברות מתקדמות בתחומי ה-AI. חברות כאלה, דוגמת OpenAI, גוגל, מיקרוסופט, Anthropic או Meta, אמורות לוודא שה-AGI שהן משתדלות או אמורות בעתיד לפתח, לא תהפוך לכוח השמדה או אפילו איום על האנושות, כמו סקיינט בקולנוע.
המטפורה של Skynet הפכה לחלק מהשיח המקצועי בקהילת חוקרי הבינה המלאכותית. חברות כמו OpenAI ואנתרופיק (Anthropic) מקדישות משאבים רבים למחקר בבטיחות AI, בחלקם בהשראת אזהרות דומות לאלה שמציג הסרט. הן מפתחות טכניקות כמו Constitutional AI ו-RLHF (Reinforcement Learning from Human Feedback) כדי לוודא שמערכות הבינה המלאכותית יפעלו בהתאם לערכים אנושיים.
הפרדוקס הוא שהסרט שנועד לבדר אותנו כצופים הפך לכלי חינוכי חשוב. הוא מדמה בצורה פשוטה ונגישה את אחד הסיכונים המורכבים ביותר שאיתם מתמודדת האנושות כיום. למרות שאיש לא מצפה לראות רובוטים עם פנים של שוורצנגר, הדאגה הבסיסית נשארת רלוונטית - איך נוודא שהטכנולוגיה החזקה שאנחנו יוצרים תשרת את האנושות ולא תחליף אותה.
הנה האבולוציה - מ-Terminator אל Skynet משם אל ה-AI ולבסוף אל AGI:
https://youtu.be/TrEjFZ2qicc
מתוך "שליחות קטלנית" - סקיינט מפתחת מודעות ומנסה להשמיד:
https://youtu.be/_Wlsd9mljiU
המאבק בסקיינט:
https://youtu.be/QLJRss63uW8
ההתקפה על הבסיסים שלה:
https://youtu.be/ySoZzYgkzyI
חשוב לזכור ש-Genisys היא Skynet:
https://youtu.be/hEC7XQDqbE0
ההשפעה הצפויה של ה-AGI על המין האנושי (מתורגם):
https://youtu.be/RzkD_rTEBYs
וכמה סיבות שאזהרת ה-SKYNET עלולה להתממש ולפגוע במין האנושי:
https://youtu.be/A2bBw9UE5mo?long=yes
בינה מלאכותית כללית (AGI), באנגלית Artificial General Intelligence, משמעותה בפשטות היא בינת-על. בינה מלאכותית שלא יודעת לעשות רק דבר אחד, או בתחום אחד, אלא כזו שיודעת לעשות הכל.
היא נקראת גם בינה מלאכותית חזקה, בניגוד לבינה מלאכותית צרה, חלשה, המיועדת ומתוכנתת למשימות ספציפיות, הבינה הכללית המלאכותית היא סופר-אינטליגנציה, שאינה מוגבלת בתחום או במיומנות ספציפית, אלא בינה מאוד חכמה, מבריקה, גאונה.
דמיינו AGI בתור הגאון של החברה, אדם חכם ונבון מאוד, או בעצם המון כאלו. היא תהיה מצוידת בכל החושים ויכולות הקוגניציה שיש לאדם, כולל שמיעה, ראייה, הבנה של הקשרים, יכולת לפענח התנהגות, חשיבה יצירתית וכדומה.
בקיצור, ה-AGI היא מאסטר מיינד גאוני, כלי ממוחשב שיהיה כה מבריק ומתוחכם, עד שיעקוף את האדם בבינה שלו ומן הסתם את האדם הכי חכם שאתם מכירים, או את כל הכי חכמים (אולי בעולם) יחדיו.
אם בעבר היה פיתוח AGI מושג מופשט ומטרת מחקר תיאורטית, בשנת 2020 העריכו בקבוצות בינה מתקדמות שייקח עוד 50 שנה עד שתגיע בינה מלאכותית ג'נרליסטית שכזו. ההערכה כיום, באפריל 2024, היא שבין 2026 ל-2027 תהיה הבינה המלאכותית הכללית בשוק.
לא יאומן? - התרגלתם. אנחנו חיים בעתיד...
כל חברות הטכנולוגיה הגדולות נמצאות בעיצומו של המרוץ לפיתוח בינת-על שכזו. מגוגל, אפל, אמזון ומטא ועד למלכת ה-AI הנוכחית, חברת OpenAI הצעירה, זו שהשיקה את מהפכת הבינה היוצרת והיצירתית (GenAI), פיתחה את דאלי ואת. הצ'ט בוט המצליח בעולם ChatGPT ושועטת עכשיו קדימה בפיתוח הבינה המלאכותית הכללית.
#מה בינה כללית תדע לעשות?
נזכיר שבינה מלאכותית הכללית, מעבר לתחכום שלה, מסוגלת לבצע מגוון משימות רחב, לפתור בעיות לפני שנוצרו ולמלא משימות מושלמות, מבלי שיתכנתו אותה ליכולת ספציפית כלשהי. היא פשוט תלמד כל יכולת כזו שתצטרך בעצמה ותדע לבצעה כאילו כל חייה היא עשתה זאת...
כבר עכשיו ברור שמערכת AGI סופר אינטליגנטית שכזו תתאפיין בתבונה כללית ויכולת להפעיל שיקול דעת, תוך קבלת החלטות מורכבות. לצד זה יהיו לה יכולות של הבנת שפה טבעית של בני אדם, ביחד עם למידה עצמאית של מידע חדש ובכך שיפור מתמיד של יכולותיה לתחומים ומיומנויות חדשות (ללא תכנות ספציפי), ביכולות של חשיבה מופשטת ויכולת להבין וליישם מושגים מופשטים, כולל במצבים חדשים.
לא פחות חשובה היא היכולת היצירתית החשובה כל כך של העברה בין תחומים, כלומר היכולת לנייד ולהעביר בין תחומי דעת שונים ידע, מיומנויות ויכולות שונות. כך, חברים, נולדים המצאות, פתרונות לבעיות והברקות הנדסיות, מדעיות וטכנולוגיות שונות.
סופר-אינטליגנציה שכזו תקבל בעתיד החלטות ביטחוניות שיילכו וישתבחו, ככל שהיא תלך ותשכלל את עצמה. היא תיקח על עצמה את האחריות על ניהול המערכת הפיננסית, מהאישית ומשפחתית ועד לרמת אוצר המדינה או הבנק הלאומי. היא תנהל מגוון מערכות שירותים ומערכות תשתית, טוב יותר מכל אדם, תמצא תרופות למגוון סוגי הסרטן ותפתור את בעיות האקלים. לא מן הנמנע שפרסי נובל יתרחבו למפתחי בינות-על, שיפצחו בעיות שהמין האנושי לא השכיל לפתור.
#סכנות בינת העל
השאלה העיקרית והמפחידה לא מעט אנשים היא מה יקרה אם או כשבינת העל הזו תחליט שאנו, בני האדם, מיותרים בעולם... זו הסיבה שעולם הטכנולוגיה מלא באזהרות של מומחים מקוגניציית-העל שלה.
כבר עתה ברור שתהיה חובה לייצר פיקוח ורישוי (רגולציה) וחוקים שיחייבו את החברות שיפתחו AGI לקחת אחריות מלאה לנזקים שבינתם עלולה לגרום. מה יהיה שבינות חכמות כל כך יקבלו החלטות שיסכנו ואף יקטלו בני אדם, או שיעדיפו בקבלת ההחלטות שלהן שיקולים שונים מטובת בני-אדם לפני הכל.
כשבידיה של אינטליגנציה עילית שכזו תהיה היכולת לשלוט ישירות בכל המערכות הטכנולוגיות שמקיפות אותנו, לא ניתן יהיה למנוע את ההחלטות שהיא עלולה לקבל, כמו גם את הביצוע שלהן.
לכן ברור שיהיו חייבים להינקט עיצומים מרתיעים וכבדים דיים, כך שימנעו מחברות הטכנולוגיה כניסה להרפתקאות בלתי אחראיות ומסוכנות לאנושות.
הנה הסבר של מושג ה-AGI:
https://youtu.be/_P9UykEJ3eU
ההשפעה הצפויה של הבינה המלאכותית הכללית על המין האנושי (מתורגם):
https://youtu.be/RzkD_rTEBYs
מהי הבינה המלאכותית הכללית?
https://youtu.be/kHFVZV-lj8g
הסבר מפורט לגבי בינה מלאכותית כללית:
https://youtu.be/LhLyOWoUnDI?long=yes
האם AGI פרק את צוות החברה המובילה את ה-AI כיום?
https://youtu.be/OphjEzHF5dY?long=yes
והיום כבר מדובר על ASI שתעבור בהרבה את הבינה האנושית:
https://youtu.be/C0RjMAWhvh8?long=yes
