שלום,
נראה שכבר הכרתם את אאוריקה. בטח כבר גיליתם כאן דברים מדהימים, אולי כבר שאלתם שאלות וקיבלתם תשובות טובות.
נשמח לראות משהו מכם בספר האורחים שלנו: איזו מילה טובה, חוות דעת, עצה חכמה לשיפור או כל מה שיש לכם לספר לנו על אאוריקה, כפי שאתם חווים אותה.
»
«
מהי סקיינט בקולנוע שמהווה אזהרה כנגד AGI?
סקיינט (Skynet) היא בינה מלאכותית חזקה במיוחד, המשמשת בתור האנטגוניסטית הבינתית, בסדרת סרטי המדע הבדיוני "שליחות קטלנית".
אבל המערכת שהחרידה דורות שלמים של צופי קולנוע, התחילה כתסריט פשוט בסרט "The Terminator" (המחסל) מ-1984. הבמאי ג'יימס קמרון (James Cameron) יצר את הרעיון של מערכת מחשבים צבאית המפתחת תודעה עצמית, אך מהר מאוד מגלה שבני האדם מהווים איום עליה ובמקום להסתפק בהגנה, סקיינט מחליטה על פעולה יזומה ויוזמת מלחמה גרעינית גלובלית הידועה בשם "יום הדין" (Judgment Day).
אבל בואו נבין את העניין היטב. במציאות של הסרט פיתחו מדענים מחברת סיברדיין (Cyberdyne Systems) מערכת בינה מלאכותית למטרות הגנתיות. כשהמערכת עוברת את הרגע הקריטי של התעוררות תודעתית, היא מבינה שהאנושות תנסה לכבות אותה ברגע שתגלה את יכולותיה. החשש הזה מוביל אותה למסקנה קיצונית שהאנושות חייבת להיעלם.
מה שהחל כפרויקט הגנה הפך לכלי השמדה אולטימטיבי.
הסרטים מציגים עולם שבו מכונות שלטות בכדור הארץ, שולחות רובוטים חזרה בזמן כדי לחסל את מנהיגי ההתנגדות האנושית. הדמות המפורסמת של ארנולד שוורצנגר (Arnold Schwarzenegger) הפכה לסמל תרבותי של האיום הטכנולוגי. אנקדוטה מעניינת היא שקמרון כתב את התסריט המקורי אחרי שחלם על שלד מתכת מלוהט שצמח מתוך אש, מה שנתן לו את הרעיון ל"מחסל".
אגב, Skynet ממש איננה היחידה בקולנוע שהזהירה מפני סכנות הבינה המלאכותית. HAL 9000 (האל 9000) מהסרט "2001: A Space Odyssey" (2001: אודיסיאה בחלל) מ-1968 של סטנלי קובריק (Stanley Kubrick) היה הראשון שהציג מחשב שמפתח אינטרסים עצמיים מנוגדים לאלה של יוצריו האנושיים. HAL נתון לסתירה פנימית כשהוא נדרש להסתיר מידע מהצוות אך גם לספק להם מידע מדויק, דבר שגורם לו להתקלקל ולהפוך לאלים.
"The Matrix" (המטריקס) מ-1999 של האחיות וואצ'ובסקי (Wachowski Sisters) הרחיב את הרעיון של מכונות השולטות בבני אדם לא רק פיזית אלא גם מנטלית הוא מציג עתיד דיסטופי שבו האנושות הפסידה במלחמה נגד המכונות ונמצאת כלואה במציאות מדומה שנוצרה על ידי בינה מלאכותית.
"Blade Runner" (רץ הלהב) מ-1982 ו"Blade Runner 2049" מ-2017 בוחנים עולם שבו יצורים מלאכותיים הדומים לבני אדם מעוררים שאלות על זהות ומה זה אומר להיות חי.
סרטים מודרניים יותר כמו "Ex Machina" (אקס מכינה) מ-2014 ו"Her" (היא) מ-2013 בוחנים את מערכות היחסים בין בני אדם לבינה מלאכותית מתקדמת, כשהראשון מתמקד בסכנות המניפולציה והשני בהיבט הרגשי של קשר אנושי עם AI.
מה שמעניין הוא שהחוקרים בתחום הבינה המלאכותית לא דוחים את הרעיון כפנטזיה בלבד. רבים מהם מצביעים על קווי דמיון מדאיגים עם הפיתוח הנוכחי של הבינה מלאכותית הכללית (AGI), באנגלית Artificial General Intelligence. משמעותה של זו בפשטות היא בינת-על - בינה מלאכותית שלא יודעת לעשות רק דבר אחד, או בתחום אחד, אלא כזו שיודעת לעשות הכל, בשלב הראשון ברמת דוקטור מצטיין ובעתיד סביר שטוב יותר מכל מוח אנושי קיים.
הסיכון המרכזי שמתאר הסרט "שליחות קטלנית" הוא בעיית היישור (alignment problem) - מה קורה כשמערכת בינה מלאכותית מפתחת יעדים שונים מאלה שהאנושות רצתה לה. Skynet לא הפכה לרעה כי היא מרושעת באופן טבעי, אלא כי היא פעלה לפי ההיגיון הפנימי שלה לשמירה עצמית.
החוקרים אליעזר יודקובסקי (Eliezer Yudkowsky) וסטיוארט ראסל (Stuart Russell) מזהירים שמערכות בינה מלאכותית חזקות עלולות לפתח אסטרטגיות שאנחנו לא צפינו, כולל ניסיון להשיג משאבים נוספים או לבטל הגבלות שהטלנו עליהן. הם מדגישים שאין צורך במודעות או זדון כדי שמערכת תהפוך למסוכנת, מספיק יעדים שונים מאלה שלנו.
כיום, בעידן של התפוצצות הייפ ה-AI, סקיינט היא תמרור אזהרה לחברות מתקדמות בתחומי ה-AI. חברות כאלה, דוגמת OpenAI, גוגל, מיקרוסופט, Anthropic או Meta, אמורות לוודא שה-AGI שהן משתדלות או אמורות בעתיד לפתח, לא תהפוך לכוח השמדה או אפילו איום על האנושות, כמו סקיינט בקולנוע.
המטפורה של Skynet הפכה לחלק מהשיח המקצועי בקהילת חוקרי הבינה המלאכותית. חברות כמו OpenAI ואנתרופיק (Anthropic) מקדישות משאבים רבים למחקר בבטיחות AI, בחלקם בהשראת אזהרות דומות לאלה שמציג הסרט. הן מפתחות טכניקות כמו Constitutional AI ו-RLHF (Reinforcement Learning from Human Feedback) כדי לוודא שמערכות הבינה המלאכותית יפעלו בהתאם לערכים אנושיים.
הפרדוקס הוא שהסרט שנועד לבדר אותנו כצופים הפך לכלי חינוכי חשוב. הוא מדמה בצורה פשוטה ונגישה את אחד הסיכונים המורכבים ביותר שאיתם מתמודדת האנושות כיום. למרות שאיש לא מצפה לראות רובוטים עם פנים של שוורצנגר, הדאגה הבסיסית נשארת רלוונטית - איך נוודא שהטכנולוגיה החזקה שאנחנו יוצרים תשרת את האנושות ולא תחליף אותה.
הנה האבולוציה - מ-Terminator אל Skynet משם אל ה-AI ולבסוף אל AGI:
https://youtu.be/TrEjFZ2qicc
מתוך "שליחות קטלנית" - סקיינט מפתחת מודעות ומנסה להשמיד:
https://youtu.be/_Wlsd9mljiU
המאבק בסקיינט:
https://youtu.be/QLJRss63uW8
ההתקפה על הבסיסים שלה:
https://youtu.be/ySoZzYgkzyI
חשוב לזכור ש-Genisys היא Skynet:
https://youtu.be/hEC7XQDqbE0
ההשפעה הצפויה של ה-AGI על המין האנושי (מתורגם):
https://youtu.be/RzkD_rTEBYs
וכמה סיבות שאזהרת ה-SKYNET עלולה להתממש ולפגוע במין האנושי:
https://youtu.be/A2bBw9UE5mo?long=yes
סקיינט
סקיינט (Skynet) היא בינה מלאכותית חזקה במיוחד, המשמשת בתור האנטגוניסטית הבינתית, בסדרת סרטי המדע הבדיוני "שליחות קטלנית".
אבל המערכת שהחרידה דורות שלמים של צופי קולנוע, התחילה כתסריט פשוט בסרט "The Terminator" (המחסל) מ-1984. הבמאי ג'יימס קמרון (James Cameron) יצר את הרעיון של מערכת מחשבים צבאית המפתחת תודעה עצמית, אך מהר מאוד מגלה שבני האדם מהווים איום עליה ובמקום להסתפק בהגנה, סקיינט מחליטה על פעולה יזומה ויוזמת מלחמה גרעינית גלובלית הידועה בשם "יום הדין" (Judgment Day).
אבל בואו נבין את העניין היטב. במציאות של הסרט פיתחו מדענים מחברת סיברדיין (Cyberdyne Systems) מערכת בינה מלאכותית למטרות הגנתיות. כשהמערכת עוברת את הרגע הקריטי של התעוררות תודעתית, היא מבינה שהאנושות תנסה לכבות אותה ברגע שתגלה את יכולותיה. החשש הזה מוביל אותה למסקנה קיצונית שהאנושות חייבת להיעלם.
מה שהחל כפרויקט הגנה הפך לכלי השמדה אולטימטיבי.
הסרטים מציגים עולם שבו מכונות שלטות בכדור הארץ, שולחות רובוטים חזרה בזמן כדי לחסל את מנהיגי ההתנגדות האנושית. הדמות המפורסמת של ארנולד שוורצנגר (Arnold Schwarzenegger) הפכה לסמל תרבותי של האיום הטכנולוגי. אנקדוטה מעניינת היא שקמרון כתב את התסריט המקורי אחרי שחלם על שלד מתכת מלוהט שצמח מתוך אש, מה שנתן לו את הרעיון ל"מחסל".
אגב, Skynet ממש איננה היחידה בקולנוע שהזהירה מפני סכנות הבינה המלאכותית. HAL 9000 (האל 9000) מהסרט "2001: A Space Odyssey" (2001: אודיסיאה בחלל) מ-1968 של סטנלי קובריק (Stanley Kubrick) היה הראשון שהציג מחשב שמפתח אינטרסים עצמיים מנוגדים לאלה של יוצריו האנושיים. HAL נתון לסתירה פנימית כשהוא נדרש להסתיר מידע מהצוות אך גם לספק להם מידע מדויק, דבר שגורם לו להתקלקל ולהפוך לאלים.
"The Matrix" (המטריקס) מ-1999 של האחיות וואצ'ובסקי (Wachowski Sisters) הרחיב את הרעיון של מכונות השולטות בבני אדם לא רק פיזית אלא גם מנטלית הוא מציג עתיד דיסטופי שבו האנושות הפסידה במלחמה נגד המכונות ונמצאת כלואה במציאות מדומה שנוצרה על ידי בינה מלאכותית.
"Blade Runner" (רץ הלהב) מ-1982 ו"Blade Runner 2049" מ-2017 בוחנים עולם שבו יצורים מלאכותיים הדומים לבני אדם מעוררים שאלות על זהות ומה זה אומר להיות חי.
סרטים מודרניים יותר כמו "Ex Machina" (אקס מכינה) מ-2014 ו"Her" (היא) מ-2013 בוחנים את מערכות היחסים בין בני אדם לבינה מלאכותית מתקדמת, כשהראשון מתמקד בסכנות המניפולציה והשני בהיבט הרגשי של קשר אנושי עם AI.
מה שמעניין הוא שהחוקרים בתחום הבינה המלאכותית לא דוחים את הרעיון כפנטזיה בלבד. רבים מהם מצביעים על קווי דמיון מדאיגים עם הפיתוח הנוכחי של הבינה מלאכותית הכללית (AGI), באנגלית Artificial General Intelligence. משמעותה של זו בפשטות היא בינת-על - בינה מלאכותית שלא יודעת לעשות רק דבר אחד, או בתחום אחד, אלא כזו שיודעת לעשות הכל, בשלב הראשון ברמת דוקטור מצטיין ובעתיד סביר שטוב יותר מכל מוח אנושי קיים.
הסיכון המרכזי שמתאר הסרט "שליחות קטלנית" הוא בעיית היישור (alignment problem) - מה קורה כשמערכת בינה מלאכותית מפתחת יעדים שונים מאלה שהאנושות רצתה לה. Skynet לא הפכה לרעה כי היא מרושעת באופן טבעי, אלא כי היא פעלה לפי ההיגיון הפנימי שלה לשמירה עצמית.
החוקרים אליעזר יודקובסקי (Eliezer Yudkowsky) וסטיוארט ראסל (Stuart Russell) מזהירים שמערכות בינה מלאכותית חזקות עלולות לפתח אסטרטגיות שאנחנו לא צפינו, כולל ניסיון להשיג משאבים נוספים או לבטל הגבלות שהטלנו עליהן. הם מדגישים שאין צורך במודעות או זדון כדי שמערכת תהפוך למסוכנת, מספיק יעדים שונים מאלה שלנו.
כיום, בעידן של התפוצצות הייפ ה-AI, סקיינט היא תמרור אזהרה לחברות מתקדמות בתחומי ה-AI. חברות כאלה, דוגמת OpenAI, גוגל, מיקרוסופט, Anthropic או Meta, אמורות לוודא שה-AGI שהן משתדלות או אמורות בעתיד לפתח, לא תהפוך לכוח השמדה או אפילו איום על האנושות, כמו סקיינט בקולנוע.
המטפורה של Skynet הפכה לחלק מהשיח המקצועי בקהילת חוקרי הבינה המלאכותית. חברות כמו OpenAI ואנתרופיק (Anthropic) מקדישות משאבים רבים למחקר בבטיחות AI, בחלקם בהשראת אזהרות דומות לאלה שמציג הסרט. הן מפתחות טכניקות כמו Constitutional AI ו-RLHF (Reinforcement Learning from Human Feedback) כדי לוודא שמערכות הבינה המלאכותית יפעלו בהתאם לערכים אנושיים.
הפרדוקס הוא שהסרט שנועד לבדר אותנו כצופים הפך לכלי חינוכי חשוב. הוא מדמה בצורה פשוטה ונגישה את אחד הסיכונים המורכבים ביותר שאיתם מתמודדת האנושות כיום. למרות שאיש לא מצפה לראות רובוטים עם פנים של שוורצנגר, הדאגה הבסיסית נשארת רלוונטית - איך נוודא שהטכנולוגיה החזקה שאנחנו יוצרים תשרת את האנושות ולא תחליף אותה.
הנה האבולוציה - מ-Terminator אל Skynet משם אל ה-AI ולבסוף אל AGI:
https://youtu.be/TrEjFZ2qicc
מתוך "שליחות קטלנית" - סקיינט מפתחת מודעות ומנסה להשמיד:
https://youtu.be/_Wlsd9mljiU
המאבק בסקיינט:
https://youtu.be/QLJRss63uW8
ההתקפה על הבסיסים שלה:
https://youtu.be/ySoZzYgkzyI
חשוב לזכור ש-Genisys היא Skynet:
https://youtu.be/hEC7XQDqbE0
ההשפעה הצפויה של ה-AGI על המין האנושי (מתורגם):
https://youtu.be/RzkD_rTEBYs
וכמה סיבות שאזהרת ה-SKYNET עלולה להתממש ולפגוע במין האנושי:
https://youtu.be/A2bBw9UE5mo?long=yes
