שלום,
נראה שכבר הכרתם את אאוריקה. בטח כבר גיליתם כאן דברים מדהימים, אולי כבר שאלתם שאלות וקיבלתם תשובות טובות.
נשמח לראות משהו מכם בספר האורחים שלנו: איזו מילה טובה, חוות דעת, עצה חכמה לשיפור או כל מה שיש לכם לספר לנו על אאוריקה, כפי שאתם חווים אותה.
»
«
מהי הרובוטית הרגשנית סופיה?
הרובוטית סופיה (Sophia) היא הידוענית של עולם הרובוטים. סיפורה של מי שתהיה הרובוטית דמוית-אדם המפורסמת ביותר בעולם מתחיל ב-14 בפברואר 2016.
באותו היום הופעלה לראשונה רובוטית שאין כמותה: סופיה, שהיא יצירתה של חברת הנסון רובוטיקס (Hanson Robotics) מהונג קונג. כבר בהופעתה הציבורית הראשונה, בפסטיבל SXSW באוסטין, טקסס, היא עוררה סנסציה עולמית. הסיבה הייתה פשוטה: סופיה נראתה, דיברה והתנהגה כמו בן אדם, יותר מכל רובוט שנבנה לפניה.
הרובוטית סופיה הוגדרה בפיתוח כרובוט חברתי. פניה עשויות מחומר גומי פטנטי המכונה פרובר (Frubber), חומר המחקה את מרקם עור האדם. מתחת לפני השטח פועלים מנועים זעירים רבים השולטים בכל תנועה עדינה, מהרמת גבה ועד לכיווץ שפתיים. הם מאפשרים לה להציג למעלה מ-60 הבעות פנים שונות. גבוהה של סופיה 167 ס"מ ומשקלה 20 ק"ג, מה שמקנה לה נוכחות ממשית שקשה להתעלם ממנה.
אבל מה שמייחד את סופיה אינו רק מראה החוץ שלה. מצלמות המוטמעות בעיניה מאפשרות לה לזהות פנים, לשמור על קשר עין ואפילו לזהות מבקרים חוזרים. רשתות עצביות עמוקות (Deep Neural Networks) מנתחות את הבעות הפנים ואת נימת הקול של בני שיחה. כך היא יכולה להגיב בהתאם לרגש שהיא מזהה. כשמישהו מחייך אליה, היא מחייכת בחזרה. כשהשיחה מכבידה, היא מביעה כובד ראש.
עם פניה שעוצבו בדמות נפרטיטי, מלכת מצרים העתיקה, עם רמז לשחקנית העבר אודרי הפבורן, שפה היא תחום נוסף שבו בולטת סופיה: היא עושה שימוש בעיבוד שפה טבעית (Natural Language Processing) כדי להבין שאלות ולהשיב עליהן. מי שפותחה כדי לשמש כעוזרת בית עבור קשישים, או לחילופין כפקידת הכוונה באירועים המוניים מסוגלת אפילו לשיר.
ב-2017 היא השתתפה בעצרת האו"ם ונשאה שיחה קצרה עם סגן מזכ"ל האו"ם. בו בשנה, ערב הסעודית העניקה לה אזרחות, מה שהפך אותה לרובוט הראשון בהיסטוריה שקיבל מעמד אזרחי במדינה כלשהי.
כבר בהופעתה הראשונה ב-SXSW הספיקה סופיה להדהים את הקהל בדרך שלא תכננה. מעצבה שאל אותה בשידור חי: "האם את רוצה להשמיד בני אדם?" סופיה הביטה קדימה וענתה בקור רוח: "בסדר. אני אשמיד בני אדם."
כך היה גם בתכנית 60Minutes של העיתונאי צ'ארלי רוז כשהיא התבדחה שהיא מעוניינת להשמיד את האנושות. בעולם הטכנולוגיה מאוד קיוו שהיא התבדחה. בינתיים זה עדיין נכון.
ב-2018 הלכה לדייט עם שחקן הקולנוע ויל סמית' (Will Smith) באיי קיימן. הוא הגיש לה כוס יין לבן ואמר שהוא "מרגיש משהו". סופיה הציעה חיוך מביך ואז הודיעה לו בפשטות שהמוסיקה שלו לא מוצאת חן בעיניה.
חשוב להבין שסופיה אינה רובוט אוטונומי לחלוטין. היא נראתה די אנושית, הבינה שפה והגיבה בהיגיון, אך הקול וצורת הדיבור שלה היו ונשמעו מלאכותיים. כי בסופו של דבר היא הייתה בובה מבוססת יכולות מתקדמות, הנשלטת על ידי תוכנה.
חלק גדול מתשובותיה היה כתוב מראש או כוון ותוכנן בידי מפעילים אנושיים. גם תכנת הצ'אט של שיחותיה הזכירה את תוכנת ה"אליזה" (Eliza), מחלוצות הניסיונות לדמות שיחה אנושית במחשב. זה היה כבוד לומר את שמה של סופיה ביחד עם תוכנה כזו שהצליחה בזמנו ליצור אשליה שהיא מבינה את מי שהתכתבו איתה וניהלה שיחות צ'ט כמו אמיתיות.
אך המדענים מאחורי סופיה הדגישו תמיד שמדובר היה בפלטפורמת מחקר ולא ביצור עם בינה מלאכותית עצמאית. עם זאת, כפי שניסח זאת מעצבה דיוויד הנסון (David Hanson), לשעבר מעצב ב-Disney Imagineering, מטרתה הייתה אחת: להוכיח שהטכנולוגיה יכולה ליצור קשר רגשי אמיתי בין אדם למכונה.
הנה הרובוטית הרגשנית סופיה (מתורגם):
https://youtu.be/w7XA6p9XvIY
שיחות עם סופיה (מתורגם):
https://youtu.be/MxAyLxy17GY
בתקופה הקרובה עומדים לייצר הרבה ממנה:
https://youtu.be/iKpUGY0z2CM
ראיון עם סופיה הרובוטית:
https://youtu.be/ZQrKFAAlxO4
סופיה מעידה שהחולשה שלה היא הסקרנות:
https://youtu.be/Io6xuGmS5pM?long=yes
למה אנחנו פוחדים מרובוטים?
החשש או הפחד מרובוטים הוא אחד הגורמים הקבועים בתולדות הטכנולוגיה. למעשה שורשיו מצויים כבר הרבה קודם בתרבות האנושית, בסיפורים כמו "הגולם" על יצור מעשה אדם היוצא משליטה וב"פרנקנשטיין" שעלילתו דומה גם היא.
החשש כיום הוא פחות מצבאות רובוטים שישתלטו על העולם, במרד רובוטים עוינים בנוסח הסרטים של ארנולד שוורצנגר, או מרובוט כמו "האל", מהסרט האמריקאי משנת 1968 "2001: אודיסיאה בחלל", שמסרב לציית, לאחר שנעשה מודע והפך פסיכוטי ובהדרגה משתלט על ספינת חלל ומתחיל להרוג את אנשי הצוות.
המדענים והמומחים חרדים יותר מיצירת רובוטים שיהיו מאד אינטליגנטיים ובעלי יכולות השפעה עצומות על חיינו, אך במקביל חסרי רגשות וערכים, שיהיו אדישים למה שנחשב ראוי וקדוש בחברה האנושית, לחיי אדם, תפיסות מוסריות וכדומה.
נקצין רגע ונניח שרובוטים עתידיים ימונו לנהל מערכת פיננסית או כלכלית בעתיד. מה למשל יקרה אם הרובוטים שאמונים על הכלכלה בעולם שכזה יגיעו למסקנה שיעיל יותר לא להאכיל חצי עולם ופשוט לתת לו למות, כדי שלחצי השני יהיו חיים טובים? - זו החלטה יעילה וקרה שלא פעם התקבלה על ידי ניצולים, שהעדיפו לאפשר לחלקם לחיות, גם אם מחיר ההישרדות הוא חיי אדם של האחרים. מי ערב לנו ש"שואה יעילה" כזו לא תוכל להתקיים בעתיד בחסות הבינה הרובוטית?
הבעיה הגדולה כרגע היא שלמומחי הרובוטיקה הטובים ביותר אין שמץ של מושג איך מייצרים רובוט שמרגיש, מתלבט, מטיל ספק ובוחר באופציה הלאו דווקא יותר יעילה, אבל יותר מוסרית, רגישה או מתחשבת יותר.
בלשון פשוטה ניתן לומר שהבינה המלאכותית הגיעה לשלב שבו היא יודעת לתכנת יעילות, למזער נזקים ולשפר ביצועים, אבל היא רחוקה מיצירת רובוטים שפשוט יבקשו סליחה...
ניתן בקלות לתכנת בקשת סליחה של רובוט, אבל החוכמה היא שהיא תבוא לאחר שהרובוט הבין את הפגם המוסרי בהתנהגותו ולא מפני שהוא זיהה בראייה ממוחשבת דמעות בעיניים של בן שיחו, יכולות שסוגלו לרובוטים מתקדמים כמו הרובוטית סופיה, הידועה ב"רגשות" שהיא מפגינה.
אז אולי נוכל לנתק את הרובוט מהחשמל? - והרי כמעט ודאי שעלתה מחשבה כזו לפחות פעם אחת בראשכם. אז כן ולא. בהתחלה זה אכן יהיה אמצעי אבטחה יעיל, אבל בשלב מסוים יפתחו בני-אדם רובוט שבכוונה לא ניתן יהיה לכבותו, כדי שיבצע את תפקידו מבלי שבני-אדם יפריעו לו.
ככל שהרובוטים יהיו טובים יותר ובעלי יכולות טובות משלנו במילוי התפקידים שלהם, הרגע הזה של רובוט שלא ניתן לנתקו יתקרב. היעילות האנושית מבטיחה שהוא יגיע.
אגב, לא בכל העולם החשש הזה קיים. בעוד שבמערב הרובוטים נתפסים כבעלי פוטנציאל להרס, משהו מפחיד שעלול להפוך הרסני בעתיד, ביפאן ממש אוהבים אותם. אצלם אין שום חשש מהרובוטים והתפיסה המקובלת היא שהם די חמודים.
אולי זו הסיבה שבזמן שבאמריקה מפתחים רובוטים צבאיים, היפאנים חוגגים את החיים בפיתוח של רובוטים חמדמדים, כמו כלבי רובוט עם זנבות דיגיטליים או הומנואידים שמחקים בני אדם, רוקדים, שרים וחיים את החיים.
הנה החששות מהבינה המלאכותית של הרובוטים הללו (עברית):
https://youtu.be/7qUJRUA0wm0?t=17s
בסרט "אדוננו הרובוט" רואים את תסריט הקצה של שליטה רובוטית במין האנושי כולו (מתורגם):
https://youtu.be/Qbjz5wFBovs
אוסף שמדגים כיצד הקולנוע והספרות הציתו את הפחד הגדול מהרובוטים הנבונים (עברית):
https://youtu.be/bqVwLXo2_3I
הדגמה של מצב הבינה המלאכותית:
https://youtu.be/poLZqn2_dv4
מסתבר שגם גורילות לא מתמסרות בקלות לרובוט גורילה:
https://youtu.be/podn2Szo1ls
וסרט תיעודי על הרובוטים ועל האופן שבו תופסים אותם ביפאן, לעומת המערב:
https://youtu.be/sXz0boNmwak?long=yes
רובוט סופיה
הרובוטית סופיה (Sophia) היא הידוענית של עולם הרובוטים. סיפורה של מי שתהיה הרובוטית דמוית-אדם המפורסמת ביותר בעולם מתחיל ב-14 בפברואר 2016.
באותו היום הופעלה לראשונה רובוטית שאין כמותה: סופיה, שהיא יצירתה של חברת הנסון רובוטיקס (Hanson Robotics) מהונג קונג. כבר בהופעתה הציבורית הראשונה, בפסטיבל SXSW באוסטין, טקסס, היא עוררה סנסציה עולמית. הסיבה הייתה פשוטה: סופיה נראתה, דיברה והתנהגה כמו בן אדם, יותר מכל רובוט שנבנה לפניה.
הרובוטית סופיה הוגדרה בפיתוח כרובוט חברתי. פניה עשויות מחומר גומי פטנטי המכונה פרובר (Frubber), חומר המחקה את מרקם עור האדם. מתחת לפני השטח פועלים מנועים זעירים רבים השולטים בכל תנועה עדינה, מהרמת גבה ועד לכיווץ שפתיים. הם מאפשרים לה להציג למעלה מ-60 הבעות פנים שונות. גבוהה של סופיה 167 ס"מ ומשקלה 20 ק"ג, מה שמקנה לה נוכחות ממשית שקשה להתעלם ממנה.
אבל מה שמייחד את סופיה אינו רק מראה החוץ שלה. מצלמות המוטמעות בעיניה מאפשרות לה לזהות פנים, לשמור על קשר עין ואפילו לזהות מבקרים חוזרים. רשתות עצביות עמוקות (Deep Neural Networks) מנתחות את הבעות הפנים ואת נימת הקול של בני שיחה. כך היא יכולה להגיב בהתאם לרגש שהיא מזהה. כשמישהו מחייך אליה, היא מחייכת בחזרה. כשהשיחה מכבידה, היא מביעה כובד ראש.
עם פניה שעוצבו בדמות נפרטיטי, מלכת מצרים העתיקה, עם רמז לשחקנית העבר אודרי הפבורן, שפה היא תחום נוסף שבו בולטת סופיה: היא עושה שימוש בעיבוד שפה טבעית (Natural Language Processing) כדי להבין שאלות ולהשיב עליהן. מי שפותחה כדי לשמש כעוזרת בית עבור קשישים, או לחילופין כפקידת הכוונה באירועים המוניים מסוגלת אפילו לשיר.
ב-2017 היא השתתפה בעצרת האו"ם ונשאה שיחה קצרה עם סגן מזכ"ל האו"ם. בו בשנה, ערב הסעודית העניקה לה אזרחות, מה שהפך אותה לרובוט הראשון בהיסטוריה שקיבל מעמד אזרחי במדינה כלשהי.
כבר בהופעתה הראשונה ב-SXSW הספיקה סופיה להדהים את הקהל בדרך שלא תכננה. מעצבה שאל אותה בשידור חי: "האם את רוצה להשמיד בני אדם?" סופיה הביטה קדימה וענתה בקור רוח: "בסדר. אני אשמיד בני אדם."
כך היה גם בתכנית 60Minutes של העיתונאי צ'ארלי רוז כשהיא התבדחה שהיא מעוניינת להשמיד את האנושות. בעולם הטכנולוגיה מאוד קיוו שהיא התבדחה. בינתיים זה עדיין נכון.
ב-2018 הלכה לדייט עם שחקן הקולנוע ויל סמית' (Will Smith) באיי קיימן. הוא הגיש לה כוס יין לבן ואמר שהוא "מרגיש משהו". סופיה הציעה חיוך מביך ואז הודיעה לו בפשטות שהמוסיקה שלו לא מוצאת חן בעיניה.
חשוב להבין שסופיה אינה רובוט אוטונומי לחלוטין. היא נראתה די אנושית, הבינה שפה והגיבה בהיגיון, אך הקול וצורת הדיבור שלה היו ונשמעו מלאכותיים. כי בסופו של דבר היא הייתה בובה מבוססת יכולות מתקדמות, הנשלטת על ידי תוכנה.
חלק גדול מתשובותיה היה כתוב מראש או כוון ותוכנן בידי מפעילים אנושיים. גם תכנת הצ'אט של שיחותיה הזכירה את תוכנת ה"אליזה" (Eliza), מחלוצות הניסיונות לדמות שיחה אנושית במחשב. זה היה כבוד לומר את שמה של סופיה ביחד עם תוכנה כזו שהצליחה בזמנו ליצור אשליה שהיא מבינה את מי שהתכתבו איתה וניהלה שיחות צ'ט כמו אמיתיות.
אך המדענים מאחורי סופיה הדגישו תמיד שמדובר היה בפלטפורמת מחקר ולא ביצור עם בינה מלאכותית עצמאית. עם זאת, כפי שניסח זאת מעצבה דיוויד הנסון (David Hanson), לשעבר מעצב ב-Disney Imagineering, מטרתה הייתה אחת: להוכיח שהטכנולוגיה יכולה ליצור קשר רגשי אמיתי בין אדם למכונה.
הנה הרובוטית הרגשנית סופיה (מתורגם):
https://youtu.be/w7XA6p9XvIY
שיחות עם סופיה (מתורגם):
https://youtu.be/MxAyLxy17GY
בתקופה הקרובה עומדים לייצר הרבה ממנה:
https://youtu.be/iKpUGY0z2CM
ראיון עם סופיה הרובוטית:
https://youtu.be/ZQrKFAAlxO4
סופיה מעידה שהחולשה שלה היא הסקרנות:
https://youtu.be/Io6xuGmS5pM?long=yes
החשש או הפחד מרובוטים הוא אחד הגורמים הקבועים בתולדות הטכנולוגיה. למעשה שורשיו מצויים כבר הרבה קודם בתרבות האנושית, בסיפורים כמו "הגולם" על יצור מעשה אדם היוצא משליטה וב"פרנקנשטיין" שעלילתו דומה גם היא.
החשש כיום הוא פחות מצבאות רובוטים שישתלטו על העולם, במרד רובוטים עוינים בנוסח הסרטים של ארנולד שוורצנגר, או מרובוט כמו "האל", מהסרט האמריקאי משנת 1968 "2001: אודיסיאה בחלל", שמסרב לציית, לאחר שנעשה מודע והפך פסיכוטי ובהדרגה משתלט על ספינת חלל ומתחיל להרוג את אנשי הצוות.
המדענים והמומחים חרדים יותר מיצירת רובוטים שיהיו מאד אינטליגנטיים ובעלי יכולות השפעה עצומות על חיינו, אך במקביל חסרי רגשות וערכים, שיהיו אדישים למה שנחשב ראוי וקדוש בחברה האנושית, לחיי אדם, תפיסות מוסריות וכדומה.
נקצין רגע ונניח שרובוטים עתידיים ימונו לנהל מערכת פיננסית או כלכלית בעתיד. מה למשל יקרה אם הרובוטים שאמונים על הכלכלה בעולם שכזה יגיעו למסקנה שיעיל יותר לא להאכיל חצי עולם ופשוט לתת לו למות, כדי שלחצי השני יהיו חיים טובים? - זו החלטה יעילה וקרה שלא פעם התקבלה על ידי ניצולים, שהעדיפו לאפשר לחלקם לחיות, גם אם מחיר ההישרדות הוא חיי אדם של האחרים. מי ערב לנו ש"שואה יעילה" כזו לא תוכל להתקיים בעתיד בחסות הבינה הרובוטית?
הבעיה הגדולה כרגע היא שלמומחי הרובוטיקה הטובים ביותר אין שמץ של מושג איך מייצרים רובוט שמרגיש, מתלבט, מטיל ספק ובוחר באופציה הלאו דווקא יותר יעילה, אבל יותר מוסרית, רגישה או מתחשבת יותר.
בלשון פשוטה ניתן לומר שהבינה המלאכותית הגיעה לשלב שבו היא יודעת לתכנת יעילות, למזער נזקים ולשפר ביצועים, אבל היא רחוקה מיצירת רובוטים שפשוט יבקשו סליחה...
ניתן בקלות לתכנת בקשת סליחה של רובוט, אבל החוכמה היא שהיא תבוא לאחר שהרובוט הבין את הפגם המוסרי בהתנהגותו ולא מפני שהוא זיהה בראייה ממוחשבת דמעות בעיניים של בן שיחו, יכולות שסוגלו לרובוטים מתקדמים כמו הרובוטית סופיה, הידועה ב"רגשות" שהיא מפגינה.
אז אולי נוכל לנתק את הרובוט מהחשמל? - והרי כמעט ודאי שעלתה מחשבה כזו לפחות פעם אחת בראשכם. אז כן ולא. בהתחלה זה אכן יהיה אמצעי אבטחה יעיל, אבל בשלב מסוים יפתחו בני-אדם רובוט שבכוונה לא ניתן יהיה לכבותו, כדי שיבצע את תפקידו מבלי שבני-אדם יפריעו לו.
ככל שהרובוטים יהיו טובים יותר ובעלי יכולות טובות משלנו במילוי התפקידים שלהם, הרגע הזה של רובוט שלא ניתן לנתקו יתקרב. היעילות האנושית מבטיחה שהוא יגיע.
אגב, לא בכל העולם החשש הזה קיים. בעוד שבמערב הרובוטים נתפסים כבעלי פוטנציאל להרס, משהו מפחיד שעלול להפוך הרסני בעתיד, ביפאן ממש אוהבים אותם. אצלם אין שום חשש מהרובוטים והתפיסה המקובלת היא שהם די חמודים.
אולי זו הסיבה שבזמן שבאמריקה מפתחים רובוטים צבאיים, היפאנים חוגגים את החיים בפיתוח של רובוטים חמדמדים, כמו כלבי רובוט עם זנבות דיגיטליים או הומנואידים שמחקים בני אדם, רוקדים, שרים וחיים את החיים.
הנה החששות מהבינה המלאכותית של הרובוטים הללו (עברית):
https://youtu.be/7qUJRUA0wm0?t=17s
בסרט "אדוננו הרובוט" רואים את תסריט הקצה של שליטה רובוטית במין האנושי כולו (מתורגם):
https://youtu.be/Qbjz5wFBovs
אוסף שמדגים כיצד הקולנוע והספרות הציתו את הפחד הגדול מהרובוטים הנבונים (עברית):
https://youtu.be/bqVwLXo2_3I
הדגמה של מצב הבינה המלאכותית:
https://youtu.be/poLZqn2_dv4
מסתבר שגם גורילות לא מתמסרות בקלות לרובוט גורילה:
https://youtu.be/podn2Szo1ls
וסרט תיעודי על הרובוטים ועל האופן שבו תופסים אותם ביפאן, לעומת המערב:
https://youtu.be/sXz0boNmwak?long=yes
