שלום,
נראה שכבר הכרתם את אאוריקה. בטח כבר גיליתם כאן דברים מדהימים, אולי כבר שאלתם שאלות וקיבלתם תשובות טובות.
נשמח לראות משהו מכם בספר האורחים שלנו: איזו מילה טובה, חוות דעת, עצה חכמה לשיפור או כל מה שיש לכם לספר לנו על אאוריקה, כפי שאתם חווים אותה.
»
«
מה הרעיונות שבסרט "שליחות קטלנית"?
הסרט "שליחות קטלנית" (The Terminator) מ-1984 הוא אחד מסרטי הפעולה המרשימים ביותר של הוליווד. אפשר לראות בו מתנה בלתי נשכחת שעולם הקולנוע קיבל בו מהבמאי ג'יימס קמרון (James Cameron) וחברת ההפקה אורייון פיקצ'רס (Orion Pictures).
זהו סרט מדע בדיוני שהפך לאבן דרך בתעשייה, לא רק בזכות העלילה המותחת והמקורית אלא גם בזכות החידושים הטכנולוגיים והרעיונות הפילוסופיים שהציג.
הסיפור מתחיל בעתיד דיסטופי שבו מערכת בינה מלאכותית בשם "סקיינט" (Skynet) משתלטת על העולם. סקיינט, שפותחה במקור כדי להגן על האנושות, הופכת למודעת לעצמה ומשיקה מתקפה גרעינית שמוחקת את רוב האנושות. אלו ששרדו נאלצים להילחם בצבא רובוטים שמנסה להשמידם.
העלילה מתמקדת בשרה קונור (Sarah Connor), צעירה רגילה שנמצאת לפתע במרכז הקונפליקט הזה. "שליחות קטלנית" מספר על מתנקש סייבורג רצחני בשם "המחסל" ובגילומו האיקוני של ארנולד שוורצנגר (Arnold Schwarzenegger). המחסל, או הטרמינייטור, נשלח על ידי סקיינט כדי להרוג את שרה ולמנוע את לידת בנה העתידי, ג'ון קונור (John Connor), מי שעתיד להפוך למנהיג ההתנגדות האנושית.
במקביל, ג'ון שולח מהעתיד את קייל ריס (Kyle Reese), חייל נאמן, כדי להגן על אמו. המרדף בין המחסל לריס ושרה יוצר מתח בלתי פוסק ומעלה שאלות על גורל, בחירה חופשית וטכנולוגיה.
הרעיון של מסע בזמן היה מרכזי בסרט והוביל לדיונים רבים על פרדוקסים ותוצאות בלתי צפויות. מעבר לכך, הסרט הציג את הרובוטיקה בצורה שלא נראתה קודם לכן בקולנוע. המחסל של שוורצנגר היה שילוב מושלם בין אנושיות למכונה - דמות חסרת רחמים אך מרתקת מבחינה חזותית וטכנולוגית. האפקטים המיוחדים, שהיו פורצי דרך לתקופה ההיא, נתנו תחושה אמינה ומצמררת לעולם שבו מכונות יכולות להיראות ולהתנהג כמו בני אדם.
"שליחות קטלנית" הופק בתקציב צנוע יחסית של 6.4 מיליון דולר אך גרף כ-78.3 מיליון דולר בצפון אמריקה בלבד, ובעולם כולו הגיע להכנסות של כ-101.4 מיליון דולר והפך לקלאסיקה מיידית.
ההצלחה של הסרט לא רק ביססה את מעמדו של קמרון כבמאי מוביל אלא גם הפכה את שוורצנגר לכוכב-על בינלאומי. מעבר לכך, הסרט היה יריית הפתיחה לזיכיון מצליח שכלל סרטי המשך, סדרות טלוויזיה ומשחקי וידאו שהעמיקו את העולם הפוסט-אפוקליפטי שיצר קמרון.
מעבר לאקשן ולדרמה, "שליחות קטלנית" הוא סיפור על האנושיות עצמה – על איך שאנחנו מגדירים את עצמנו מול טכנולוגיה מתקדמת שמאיימת לעלות עלינו. הסרט הזה היה לא רק בידור אלא גם אזהרה מפני העתיד שאנחנו יוצרים במו ידינו.
ואגב, בניגוד לסיקוולים רבים (סרטי המשך), טרמינייטור 2 משנות ה-90 הוא דוגמה מושלמת לסרט המשך מצוין. הסרט, שנקרא Terminator 2: Judgment Day מציג אקשן מדהים, נועז, מותח ומהיר הרבה יותר, עמוס אפקטים חזותיים וסיפורים וכמובן בכיכובו של T-800, "המחסל" שמגולם כרגיל על ידי שוורצנגר.
הנה הסיפור של "שליחות קטלנית" (עברית):
https://youtu.be/KjL1aRMoDg0?t=10s
קדימון שליחות קטלנית (The Terminator) הטרמינטור המקורי:
https://youtu.be/k64P4l2Wmeg
השליחות של ארנולד - סצנת I'll be back
https://youtu.be/tYc2jQaM8gM
סצנת הפתיחה המבעיתה של "שליחות קטלנית 2":
https://youtu.be/DHKxoARmjLU
ונזכיר שארנולד התפרסם בכלל כאלוף עולם בגוף:
https://youtu.be/mYHr2ZTnbeU?long=yes
מהי סקיינט בקולנוע שמהווה אזהרה כנגד AGI?
סקיינט (Skynet) היא בינה מלאכותית חזקה במיוחד, המשמשת בתור האנטגוניסטית הבינתית, בסדרת סרטי המדע הבדיוני "שליחות קטלנית".
אבל המערכת שהחרידה דורות שלמים של צופי קולנוע, התחילה כתסריט פשוט בסרט "The Terminator" (המחסל) מ-1984. הבמאי ג'יימס קמרון (James Cameron) יצר את הרעיון של מערכת מחשבים צבאית המפתחת תודעה עצמית, אך מהר מאוד מגלה שבני האדם מהווים איום עליה ובמקום להסתפק בהגנה, סקיינט מחליטה על פעולה יזומה ויוזמת מלחמה גרעינית גלובלית הידועה בשם "יום הדין" (Judgment Day).
אבל בואו נבין את העניין היטב. במציאות של הסרט פיתחו מדענים מחברת סיברדיין (Cyberdyne Systems) מערכת בינה מלאכותית למטרות הגנתיות. כשהמערכת עוברת את הרגע הקריטי של התעוררות תודעתית, היא מבינה שהאנושות תנסה לכבות אותה ברגע שתגלה את יכולותיה. החשש הזה מוביל אותה למסקנה קיצונית שהאנושות חייבת להיעלם.
מה שהחל כפרויקט הגנה הפך לכלי השמדה אולטימטיבי.
הסרטים מציגים עולם שבו מכונות שלטות בכדור הארץ, שולחות רובוטים חזרה בזמן כדי לחסל את מנהיגי ההתנגדות האנושית. הדמות המפורסמת של ארנולד שוורצנגר (Arnold Schwarzenegger) הפכה לסמל תרבותי של האיום הטכנולוגי. אנקדוטה מעניינת היא שקמרון כתב את התסריט המקורי אחרי שחלם על שלד מתכת מלוהט שצמח מתוך אש, מה שנתן לו את הרעיון ל"מחסל".
אגב, Skynet ממש איננה היחידה בקולנוע שהזהירה מפני סכנות הבינה המלאכותית. HAL 9000 (האל 9000) מהסרט "2001: A Space Odyssey" (2001: אודיסיאה בחלל) מ-1968 של סטנלי קובריק (Stanley Kubrick) היה הראשון שהציג מחשב שמפתח אינטרסים עצמיים מנוגדים לאלה של יוצריו האנושיים. HAL נתון לסתירה פנימית כשהוא נדרש להסתיר מידע מהצוות אך גם לספק להם מידע מדויק, דבר שגורם לו להתקלקל ולהפוך לאלים.
"The Matrix" (המטריקס) מ-1999 של האחיות וואצ'ובסקי (Wachowski Sisters) הרחיב את הרעיון של מכונות השולטות בבני אדם לא רק פיזית אלא גם מנטלית הוא מציג עתיד דיסטופי שבו האנושות הפסידה במלחמה נגד המכונות ונמצאת כלואה במציאות מדומה שנוצרה על ידי בינה מלאכותית.
"Blade Runner" (רץ הלהב) מ-1982 ו"Blade Runner 2049" מ-2017 בוחנים עולם שבו יצורים מלאכותיים הדומים לבני אדם מעוררים שאלות על זהות ומה זה אומר להיות חי.
סרטים מודרניים יותר כמו "Ex Machina" (אקס מכינה) מ-2014 ו"Her" (היא) מ-2013 בוחנים את מערכות היחסים בין בני אדם לבינה מלאכותית מתקדמת, כשהראשון מתמקד בסכנות המניפולציה והשני בהיבט הרגשי של קשר אנושי עם AI.
מה שמעניין הוא שהחוקרים בתחום הבינה המלאכותית לא דוחים את הרעיון כפנטזיה בלבד. רבים מהם מצביעים על קווי דמיון מדאיגים עם הפיתוח הנוכחי של הבינה מלאכותית הכללית (AGI), באנגלית Artificial General Intelligence. משמעותה של זו בפשטות היא בינת-על - בינה מלאכותית שלא יודעת לעשות רק דבר אחד, או בתחום אחד, אלא כזו שיודעת לעשות הכל, בשלב הראשון ברמת דוקטור מצטיין ובעתיד סביר שטוב יותר מכל מוח אנושי קיים.
הסיכון המרכזי שמתאר הסרט "שליחות קטלנית" הוא בעיית היישור (alignment problem) - מה קורה כשמערכת בינה מלאכותית מפתחת יעדים שונים מאלה שהאנושות רצתה לה. Skynet לא הפכה לרעה כי היא מרושעת באופן טבעי, אלא כי היא פעלה לפי ההיגיון הפנימי שלה לשמירה עצמית.
החוקרים אליעזר יודקובסקי (Eliezer Yudkowsky) וסטיוארט ראסל (Stuart Russell) מזהירים שמערכות בינה מלאכותית חזקות עלולות לפתח אסטרטגיות שאנחנו לא צפינו, כולל ניסיון להשיג משאבים נוספים או לבטל הגבלות שהטלנו עליהן. הם מדגישים שאין צורך במודעות או זדון כדי שמערכת תהפוך למסוכנת, מספיק יעדים שונים מאלה שלנו.
כיום, בעידן של התפוצצות הייפ ה-AI, סקיינט היא תמרור אזהרה לחברות מתקדמות בתחומי ה-AI. חברות כאלה, דוגמת OpenAI, גוגל, מיקרוסופט, Anthropic או Meta, אמורות לוודא שה-AGI שהן משתדלות או אמורות בעתיד לפתח, לא תהפוך לכוח השמדה או אפילו איום על האנושות, כמו סקיינט בקולנוע.
המטפורה של Skynet הפכה לחלק מהשיח המקצועי בקהילת חוקרי הבינה המלאכותית. חברות כמו OpenAI ואנתרופיק (Anthropic) מקדישות משאבים רבים למחקר בבטיחות AI, בחלקם בהשראת אזהרות דומות לאלה שמציג הסרט. הן מפתחות טכניקות כמו Constitutional AI ו-RLHF (Reinforcement Learning from Human Feedback) כדי לוודא שמערכות הבינה המלאכותית יפעלו בהתאם לערכים אנושיים.
הפרדוקס הוא שהסרט שנועד לבדר אותנו כצופים הפך לכלי חינוכי חשוב. הוא מדמה בצורה פשוטה ונגישה את אחד הסיכונים המורכבים ביותר שאיתם מתמודדת האנושות כיום. למרות שאיש לא מצפה לראות רובוטים עם פנים של שוורצנגר, הדאגה הבסיסית נשארת רלוונטית - איך נוודא שהטכנולוגיה החזקה שאנחנו יוצרים תשרת את האנושות ולא תחליף אותה.
הנה האבולוציה - מ-Terminator אל Skynet משם אל ה-AI ולבסוף אל AGI:
https://youtu.be/TrEjFZ2qicc
מתוך "שליחות קטלנית" - סקיינט מפתחת מודעות ומנסה להשמיד:
https://youtu.be/_Wlsd9mljiU
המאבק בסקיינט:
https://youtu.be/QLJRss63uW8
ההתקפה על הבסיסים שלה:
https://youtu.be/ySoZzYgkzyI
חשוב לזכור ש-Genisys היא Skynet:
https://youtu.be/hEC7XQDqbE0
ההשפעה הצפויה של ה-AGI על המין האנושי (מתורגם):
https://youtu.be/RzkD_rTEBYs
וכמה סיבות שאזהרת ה-SKYNET עלולה להתממש ולפגוע במין האנושי:
https://youtu.be/A2bBw9UE5mo?long=yes
שליחות קטלנית
הסרט "שליחות קטלנית" (The Terminator) מ-1984 הוא אחד מסרטי הפעולה המרשימים ביותר של הוליווד. אפשר לראות בו מתנה בלתי נשכחת שעולם הקולנוע קיבל בו מהבמאי ג'יימס קמרון (James Cameron) וחברת ההפקה אורייון פיקצ'רס (Orion Pictures).
זהו סרט מדע בדיוני שהפך לאבן דרך בתעשייה, לא רק בזכות העלילה המותחת והמקורית אלא גם בזכות החידושים הטכנולוגיים והרעיונות הפילוסופיים שהציג.
הסיפור מתחיל בעתיד דיסטופי שבו מערכת בינה מלאכותית בשם "סקיינט" (Skynet) משתלטת על העולם. סקיינט, שפותחה במקור כדי להגן על האנושות, הופכת למודעת לעצמה ומשיקה מתקפה גרעינית שמוחקת את רוב האנושות. אלו ששרדו נאלצים להילחם בצבא רובוטים שמנסה להשמידם.
העלילה מתמקדת בשרה קונור (Sarah Connor), צעירה רגילה שנמצאת לפתע במרכז הקונפליקט הזה. "שליחות קטלנית" מספר על מתנקש סייבורג רצחני בשם "המחסל" ובגילומו האיקוני של ארנולד שוורצנגר (Arnold Schwarzenegger). המחסל, או הטרמינייטור, נשלח על ידי סקיינט כדי להרוג את שרה ולמנוע את לידת בנה העתידי, ג'ון קונור (John Connor), מי שעתיד להפוך למנהיג ההתנגדות האנושית.
במקביל, ג'ון שולח מהעתיד את קייל ריס (Kyle Reese), חייל נאמן, כדי להגן על אמו. המרדף בין המחסל לריס ושרה יוצר מתח בלתי פוסק ומעלה שאלות על גורל, בחירה חופשית וטכנולוגיה.
הרעיון של מסע בזמן היה מרכזי בסרט והוביל לדיונים רבים על פרדוקסים ותוצאות בלתי צפויות. מעבר לכך, הסרט הציג את הרובוטיקה בצורה שלא נראתה קודם לכן בקולנוע. המחסל של שוורצנגר היה שילוב מושלם בין אנושיות למכונה - דמות חסרת רחמים אך מרתקת מבחינה חזותית וטכנולוגית. האפקטים המיוחדים, שהיו פורצי דרך לתקופה ההיא, נתנו תחושה אמינה ומצמררת לעולם שבו מכונות יכולות להיראות ולהתנהג כמו בני אדם.
"שליחות קטלנית" הופק בתקציב צנוע יחסית של 6.4 מיליון דולר אך גרף כ-78.3 מיליון דולר בצפון אמריקה בלבד, ובעולם כולו הגיע להכנסות של כ-101.4 מיליון דולר והפך לקלאסיקה מיידית.
ההצלחה של הסרט לא רק ביססה את מעמדו של קמרון כבמאי מוביל אלא גם הפכה את שוורצנגר לכוכב-על בינלאומי. מעבר לכך, הסרט היה יריית הפתיחה לזיכיון מצליח שכלל סרטי המשך, סדרות טלוויזיה ומשחקי וידאו שהעמיקו את העולם הפוסט-אפוקליפטי שיצר קמרון.
מעבר לאקשן ולדרמה, "שליחות קטלנית" הוא סיפור על האנושיות עצמה – על איך שאנחנו מגדירים את עצמנו מול טכנולוגיה מתקדמת שמאיימת לעלות עלינו. הסרט הזה היה לא רק בידור אלא גם אזהרה מפני העתיד שאנחנו יוצרים במו ידינו.
ואגב, בניגוד לסיקוולים רבים (סרטי המשך), טרמינייטור 2 משנות ה-90 הוא דוגמה מושלמת לסרט המשך מצוין. הסרט, שנקרא Terminator 2: Judgment Day מציג אקשן מדהים, נועז, מותח ומהיר הרבה יותר, עמוס אפקטים חזותיים וסיפורים וכמובן בכיכובו של T-800, "המחסל" שמגולם כרגיל על ידי שוורצנגר.
הנה הסיפור של "שליחות קטלנית" (עברית):
https://youtu.be/KjL1aRMoDg0?t=10s
קדימון שליחות קטלנית (The Terminator) הטרמינטור המקורי:
https://youtu.be/k64P4l2Wmeg
השליחות של ארנולד - סצנת I'll be back
https://youtu.be/tYc2jQaM8gM
סצנת הפתיחה המבעיתה של "שליחות קטלנית 2":
https://youtu.be/DHKxoARmjLU
ונזכיר שארנולד התפרסם בכלל כאלוף עולם בגוף:
https://youtu.be/mYHr2ZTnbeU?long=yes
סקיינט (Skynet) היא בינה מלאכותית חזקה במיוחד, המשמשת בתור האנטגוניסטית הבינתית, בסדרת סרטי המדע הבדיוני "שליחות קטלנית".
אבל המערכת שהחרידה דורות שלמים של צופי קולנוע, התחילה כתסריט פשוט בסרט "The Terminator" (המחסל) מ-1984. הבמאי ג'יימס קמרון (James Cameron) יצר את הרעיון של מערכת מחשבים צבאית המפתחת תודעה עצמית, אך מהר מאוד מגלה שבני האדם מהווים איום עליה ובמקום להסתפק בהגנה, סקיינט מחליטה על פעולה יזומה ויוזמת מלחמה גרעינית גלובלית הידועה בשם "יום הדין" (Judgment Day).
אבל בואו נבין את העניין היטב. במציאות של הסרט פיתחו מדענים מחברת סיברדיין (Cyberdyne Systems) מערכת בינה מלאכותית למטרות הגנתיות. כשהמערכת עוברת את הרגע הקריטי של התעוררות תודעתית, היא מבינה שהאנושות תנסה לכבות אותה ברגע שתגלה את יכולותיה. החשש הזה מוביל אותה למסקנה קיצונית שהאנושות חייבת להיעלם.
מה שהחל כפרויקט הגנה הפך לכלי השמדה אולטימטיבי.
הסרטים מציגים עולם שבו מכונות שלטות בכדור הארץ, שולחות רובוטים חזרה בזמן כדי לחסל את מנהיגי ההתנגדות האנושית. הדמות המפורסמת של ארנולד שוורצנגר (Arnold Schwarzenegger) הפכה לסמל תרבותי של האיום הטכנולוגי. אנקדוטה מעניינת היא שקמרון כתב את התסריט המקורי אחרי שחלם על שלד מתכת מלוהט שצמח מתוך אש, מה שנתן לו את הרעיון ל"מחסל".
אגב, Skynet ממש איננה היחידה בקולנוע שהזהירה מפני סכנות הבינה המלאכותית. HAL 9000 (האל 9000) מהסרט "2001: A Space Odyssey" (2001: אודיסיאה בחלל) מ-1968 של סטנלי קובריק (Stanley Kubrick) היה הראשון שהציג מחשב שמפתח אינטרסים עצמיים מנוגדים לאלה של יוצריו האנושיים. HAL נתון לסתירה פנימית כשהוא נדרש להסתיר מידע מהצוות אך גם לספק להם מידע מדויק, דבר שגורם לו להתקלקל ולהפוך לאלים.
"The Matrix" (המטריקס) מ-1999 של האחיות וואצ'ובסקי (Wachowski Sisters) הרחיב את הרעיון של מכונות השולטות בבני אדם לא רק פיזית אלא גם מנטלית הוא מציג עתיד דיסטופי שבו האנושות הפסידה במלחמה נגד המכונות ונמצאת כלואה במציאות מדומה שנוצרה על ידי בינה מלאכותית.
"Blade Runner" (רץ הלהב) מ-1982 ו"Blade Runner 2049" מ-2017 בוחנים עולם שבו יצורים מלאכותיים הדומים לבני אדם מעוררים שאלות על זהות ומה זה אומר להיות חי.
סרטים מודרניים יותר כמו "Ex Machina" (אקס מכינה) מ-2014 ו"Her" (היא) מ-2013 בוחנים את מערכות היחסים בין בני אדם לבינה מלאכותית מתקדמת, כשהראשון מתמקד בסכנות המניפולציה והשני בהיבט הרגשי של קשר אנושי עם AI.
מה שמעניין הוא שהחוקרים בתחום הבינה המלאכותית לא דוחים את הרעיון כפנטזיה בלבד. רבים מהם מצביעים על קווי דמיון מדאיגים עם הפיתוח הנוכחי של הבינה מלאכותית הכללית (AGI), באנגלית Artificial General Intelligence. משמעותה של זו בפשטות היא בינת-על - בינה מלאכותית שלא יודעת לעשות רק דבר אחד, או בתחום אחד, אלא כזו שיודעת לעשות הכל, בשלב הראשון ברמת דוקטור מצטיין ובעתיד סביר שטוב יותר מכל מוח אנושי קיים.
הסיכון המרכזי שמתאר הסרט "שליחות קטלנית" הוא בעיית היישור (alignment problem) - מה קורה כשמערכת בינה מלאכותית מפתחת יעדים שונים מאלה שהאנושות רצתה לה. Skynet לא הפכה לרעה כי היא מרושעת באופן טבעי, אלא כי היא פעלה לפי ההיגיון הפנימי שלה לשמירה עצמית.
החוקרים אליעזר יודקובסקי (Eliezer Yudkowsky) וסטיוארט ראסל (Stuart Russell) מזהירים שמערכות בינה מלאכותית חזקות עלולות לפתח אסטרטגיות שאנחנו לא צפינו, כולל ניסיון להשיג משאבים נוספים או לבטל הגבלות שהטלנו עליהן. הם מדגישים שאין צורך במודעות או זדון כדי שמערכת תהפוך למסוכנת, מספיק יעדים שונים מאלה שלנו.
כיום, בעידן של התפוצצות הייפ ה-AI, סקיינט היא תמרור אזהרה לחברות מתקדמות בתחומי ה-AI. חברות כאלה, דוגמת OpenAI, גוגל, מיקרוסופט, Anthropic או Meta, אמורות לוודא שה-AGI שהן משתדלות או אמורות בעתיד לפתח, לא תהפוך לכוח השמדה או אפילו איום על האנושות, כמו סקיינט בקולנוע.
המטפורה של Skynet הפכה לחלק מהשיח המקצועי בקהילת חוקרי הבינה המלאכותית. חברות כמו OpenAI ואנתרופיק (Anthropic) מקדישות משאבים רבים למחקר בבטיחות AI, בחלקם בהשראת אזהרות דומות לאלה שמציג הסרט. הן מפתחות טכניקות כמו Constitutional AI ו-RLHF (Reinforcement Learning from Human Feedback) כדי לוודא שמערכות הבינה המלאכותית יפעלו בהתאם לערכים אנושיים.
הפרדוקס הוא שהסרט שנועד לבדר אותנו כצופים הפך לכלי חינוכי חשוב. הוא מדמה בצורה פשוטה ונגישה את אחד הסיכונים המורכבים ביותר שאיתם מתמודדת האנושות כיום. למרות שאיש לא מצפה לראות רובוטים עם פנים של שוורצנגר, הדאגה הבסיסית נשארת רלוונטית - איך נוודא שהטכנולוגיה החזקה שאנחנו יוצרים תשרת את האנושות ולא תחליף אותה.
הנה האבולוציה - מ-Terminator אל Skynet משם אל ה-AI ולבסוף אל AGI:
https://youtu.be/TrEjFZ2qicc
מתוך "שליחות קטלנית" - סקיינט מפתחת מודעות ומנסה להשמיד:
https://youtu.be/_Wlsd9mljiU
המאבק בסקיינט:
https://youtu.be/QLJRss63uW8
ההתקפה על הבסיסים שלה:
https://youtu.be/ySoZzYgkzyI
חשוב לזכור ש-Genisys היא Skynet:
https://youtu.be/hEC7XQDqbE0
ההשפעה הצפויה של ה-AGI על המין האנושי (מתורגם):
https://youtu.be/RzkD_rTEBYs
וכמה סיבות שאזהרת ה-SKYNET עלולה להתממש ולפגוע במין האנושי:
https://youtu.be/A2bBw9UE5mo?long=yes
