שלום,
נראה שכבר הכרתם את אאוריקה. בטח כבר גיליתם כאן דברים מדהימים, אולי כבר שאלתם שאלות וקיבלתם תשובות טובות.
נשמח לראות משהו מכם בספר האורחים שלנו: איזו מילה טובה, חוות דעת, עצה חכמה לשיפור או כל מה שיש לכם לספר לנו על אאוריקה, כפי שאתם חווים אותה.
»
«
למה אנחנו פוחדים מרובוטים?
החשש או הפחד מרובוטים הוא אחד הגורמים הקבועים בתולדות הטכנולוגיה. למעשה שורשיו מצויים כבר הרבה קודם בתרבות האנושית, בסיפורים כמו "הגולם" על יצור מעשה אדם היוצא משליטה וב"פרנקנשטיין" שעלילתו דומה גם היא.
החשש כיום הוא פחות מצבאות רובוטים שישתלטו על העולם, במרד רובוטים עוינים בנוסח הסרטים של ארנולד שוורצנגר, או מרובוט כמו "האל", מהסרט האמריקאי משנת 1968 "2001: אודיסיאה בחלל", שמסרב לציית, לאחר שנעשה מודע והפך פסיכוטי ובהדרגה משתלט על ספינת חלל ומתחיל להרוג את אנשי הצוות.
המדענים והמומחים חרדים יותר מיצירת רובוטים שיהיו מאד אינטליגנטיים ובעלי יכולות השפעה עצומות על חיינו, אך במקביל חסרי רגשות וערכים, שיהיו אדישים למה שנחשב ראוי וקדוש בחברה האנושית, לחיי אדם, תפיסות מוסריות וכדומה.
נקצין רגע ונניח שרובוטים עתידיים ימונו לנהל מערכת פיננסית או כלכלית בעתיד. מה למשל יקרה אם הרובוטים שאמונים על הכלכלה בעולם שכזה יגיעו למסקנה שיעיל יותר לא להאכיל חצי עולם ופשוט לתת לו למות, כדי שלחצי השני יהיו חיים טובים? - זו החלטה יעילה וקרה שלא פעם התקבלה על ידי ניצולים, שהעדיפו לאפשר לחלקם לחיות, גם אם מחיר ההישרדות הוא חיי אדם של האחרים. מי ערב לנו ש"שואה יעילה" כזו לא תוכל להתקיים בעתיד בחסות הבינה הרובוטית?
הבעיה הגדולה כרגע היא שלמומחי הרובוטיקה הטובים ביותר אין שמץ של מושג איך מייצרים רובוט שמרגיש, מתלבט, מטיל ספק ובוחר באופציה הלאו דווקא יותר יעילה, אבל יותר מוסרית, רגישה או מתחשבת יותר.
בלשון פשוטה ניתן לומר שהבינה המלאכותית הגיעה לשלב שבו היא יודעת לתכנת יעילות, למזער נזקים ולשפר ביצועים, אבל היא רחוקה מיצירת רובוטים שפשוט יבקשו סליחה... ניתן בקלות לתכנת בקשת סליחה של רובוט, אבל החוכמה היא שהיא תבוא לאחר שהרובוט הבין את הפגם המוסרי בהתנהגותו ולא מפני שהוא זיהה בראייה ממוחשבת דמעות בעיניים של בן שיחו, יכולות שסוגלו לרובוטים מתקדמים כמו הרובוטית סופיה, הידועה ב"רגשות" שהיא מפגינה.
אז אולי נוכל לנתק את הרובוט מהחשמל? - ודאי עלתה מחשבה כזו בראשכם. כן ולא. בהתחלה זה אכן יהיה אמצעי אבטחה יעיל, אבל בשלב מסוים יפתחו בני-אדם רובוט שבכוונה לא ניתן יהיה לכבותו, כדי שיבצע את תפקידו מבלי שבני-אדם יפריעו לו. ככל שהרובוטים יהיו טובים יותר ובעלי יכולות טובות משלנו במילוי התפקידים שלהם, הרגע הזה של רובוט שלא ניתן לנתקו יתקרב. היעילות האנושית מבטיחה שהוא יגיע.
אגב, לא בכל העולם החשש הזה קיים. בעוד שבמערב הרובוטים נתפסים כבעלי פוטנציאל להרס, משהו מפחיד שעלול להפוך הרסני בעתיד, ביפאן ממש אוהבים אותם. אצלם אין שום חשש מהרובוטים והתפיסה המקובלת היא שהם די חמודים. אולי זו הסיבה שבזמן שבאמריקה מפתחים רובוטים צבאיים, היפאנים חוגגים את החיים בפיתוח של רובוטים חמדמדים, כמו כלבי רובוט עם זנבות דיגיטליים ועד הומנואידים שמחקים בני אדם, רוקדים, שרים וחיים את החיים.
הנה החששות מהבינה המלאכותית של הרובוטים הללו (עברית):
https://youtu.be/7qUJRUA0wm0?t=17s
בסרט "אדוננו הרובוט" רואים את תסריט הקצה של שליטה רובוטית במין האנושי כולו (מתורגם):
https://youtu.be/Qbjz5wFBovs
אוסף שמדגים כיצד הקולנוע והספרות הציתו את הפחד הגדול מהרובוטים הנבונים (עברית):
https://youtu.be/bqVwLXo2_3I
הדגמה של מצב הבינה המלאכותית:
https://youtu.be/poLZqn2_dv4
הרובוטים שיחליפו בעתיד בני אדם בנתינת שירותים:
https://youtu.be/FlTTPtt_8xk
מסתבר שגם גורילות לא מתמסרות בקלות לרובוט גורילה:
https://youtu.be/podn2Szo1ls
וסרט תיעודי על הרובוטים ועל האופן שבו תופסים אותם ביפאן, לעומת המערב:
https://youtu.be/sXz0boNmwak?long=yes
רובוט סופיה
החשש או הפחד מרובוטים הוא אחד הגורמים הקבועים בתולדות הטכנולוגיה. למעשה שורשיו מצויים כבר הרבה קודם בתרבות האנושית, בסיפורים כמו "הגולם" על יצור מעשה אדם היוצא משליטה וב"פרנקנשטיין" שעלילתו דומה גם היא.
החשש כיום הוא פחות מצבאות רובוטים שישתלטו על העולם, במרד רובוטים עוינים בנוסח הסרטים של ארנולד שוורצנגר, או מרובוט כמו "האל", מהסרט האמריקאי משנת 1968 "2001: אודיסיאה בחלל", שמסרב לציית, לאחר שנעשה מודע והפך פסיכוטי ובהדרגה משתלט על ספינת חלל ומתחיל להרוג את אנשי הצוות.
המדענים והמומחים חרדים יותר מיצירת רובוטים שיהיו מאד אינטליגנטיים ובעלי יכולות השפעה עצומות על חיינו, אך במקביל חסרי רגשות וערכים, שיהיו אדישים למה שנחשב ראוי וקדוש בחברה האנושית, לחיי אדם, תפיסות מוסריות וכדומה.
נקצין רגע ונניח שרובוטים עתידיים ימונו לנהל מערכת פיננסית או כלכלית בעתיד. מה למשל יקרה אם הרובוטים שאמונים על הכלכלה בעולם שכזה יגיעו למסקנה שיעיל יותר לא להאכיל חצי עולם ופשוט לתת לו למות, כדי שלחצי השני יהיו חיים טובים? - זו החלטה יעילה וקרה שלא פעם התקבלה על ידי ניצולים, שהעדיפו לאפשר לחלקם לחיות, גם אם מחיר ההישרדות הוא חיי אדם של האחרים. מי ערב לנו ש"שואה יעילה" כזו לא תוכל להתקיים בעתיד בחסות הבינה הרובוטית?
הבעיה הגדולה כרגע היא שלמומחי הרובוטיקה הטובים ביותר אין שמץ של מושג איך מייצרים רובוט שמרגיש, מתלבט, מטיל ספק ובוחר באופציה הלאו דווקא יותר יעילה, אבל יותר מוסרית, רגישה או מתחשבת יותר.
בלשון פשוטה ניתן לומר שהבינה המלאכותית הגיעה לשלב שבו היא יודעת לתכנת יעילות, למזער נזקים ולשפר ביצועים, אבל היא רחוקה מיצירת רובוטים שפשוט יבקשו סליחה... ניתן בקלות לתכנת בקשת סליחה של רובוט, אבל החוכמה היא שהיא תבוא לאחר שהרובוט הבין את הפגם המוסרי בהתנהגותו ולא מפני שהוא זיהה בראייה ממוחשבת דמעות בעיניים של בן שיחו, יכולות שסוגלו לרובוטים מתקדמים כמו הרובוטית סופיה, הידועה ב"רגשות" שהיא מפגינה.
אז אולי נוכל לנתק את הרובוט מהחשמל? - ודאי עלתה מחשבה כזו בראשכם. כן ולא. בהתחלה זה אכן יהיה אמצעי אבטחה יעיל, אבל בשלב מסוים יפתחו בני-אדם רובוט שבכוונה לא ניתן יהיה לכבותו, כדי שיבצע את תפקידו מבלי שבני-אדם יפריעו לו. ככל שהרובוטים יהיו טובים יותר ובעלי יכולות טובות משלנו במילוי התפקידים שלהם, הרגע הזה של רובוט שלא ניתן לנתקו יתקרב. היעילות האנושית מבטיחה שהוא יגיע.
אגב, לא בכל העולם החשש הזה קיים. בעוד שבמערב הרובוטים נתפסים כבעלי פוטנציאל להרס, משהו מפחיד שעלול להפוך הרסני בעתיד, ביפאן ממש אוהבים אותם. אצלם אין שום חשש מהרובוטים והתפיסה המקובלת היא שהם די חמודים. אולי זו הסיבה שבזמן שבאמריקה מפתחים רובוטים צבאיים, היפאנים חוגגים את החיים בפיתוח של רובוטים חמדמדים, כמו כלבי רובוט עם זנבות דיגיטליים ועד הומנואידים שמחקים בני אדם, רוקדים, שרים וחיים את החיים.
הנה החששות מהבינה המלאכותית של הרובוטים הללו (עברית):
https://youtu.be/7qUJRUA0wm0?t=17s
בסרט "אדוננו הרובוט" רואים את תסריט הקצה של שליטה רובוטית במין האנושי כולו (מתורגם):
https://youtu.be/Qbjz5wFBovs
אוסף שמדגים כיצד הקולנוע והספרות הציתו את הפחד הגדול מהרובוטים הנבונים (עברית):
https://youtu.be/bqVwLXo2_3I
הדגמה של מצב הבינה המלאכותית:
https://youtu.be/poLZqn2_dv4
הרובוטים שיחליפו בעתיד בני אדם בנתינת שירותים:
https://youtu.be/FlTTPtt_8xk
מסתבר שגם גורילות לא מתמסרות בקלות לרובוט גורילה:
https://youtu.be/podn2Szo1ls
וסרט תיעודי על הרובוטים ועל האופן שבו תופסים אותם ביפאן, לעומת המערב:
https://youtu.be/sXz0boNmwak?long=yes
