» «
פחד מרובוטים
למה אנחנו פוחדים מרובוטים?



החשש או הפחד מרובוטים הוא אחד הגורמים הקבועים בתולדות הטכנולוגיה. למעשה שורשיו מצויים כבר הרבה קודם בתרבות האנושית, בסיפורים כמו "הגולם" על יצור מעשה אדם היוצא משליטה וב"פרנקנשטיין" שעלילתו דומה גם היא.

החשש כיום הוא פחות מצבאות רובוטים שישתלטו על העולם, במרד רובוטים עוינים בנוסח הסרטים של ארנולד שוורצנגר, או מרובוט כמו "האל" מהסרט "2001: אודיסיאה בחלל", שמסרב לציית, לאחר שנעשה מודע והפך פסיכוטי. המדענים והמומחים חרדים יותר מיצירת רובוטים שיהיו מאד אינטליגנטיים ובעלי יכולות השפעה עצומות על חיינו, אך במקביל חסרי רגשות וערכים, שיהיו אדישים למה שנחשב ראוי וקדוש בחברה האנושית, לחיי אדם, תפיסות מוסריות וכדומה.

נקצין רגע ונניח שרובוטים עתידיים ימונו לנהל מערכת פיננסית או כלכלית בעתיד. מה למשל יקרה אם הרובוטים שאמונים על הכלכלה בעולם שכזה יגיעו למסקנה שיעיל יותר לא להאכיל חצי עולם ופשוט לתת לו למות, כדי שלחצי השני יהיו חיים טובים? - זו החלטה יעילה וקרה שלא פעם התקבלה על ידי ניצולים, שהעדיפו לאפשר לחלקם לחיות, גם אם מחיר ההישרדות הוא חיי אדם של האחרים. מי ערב לנו ש"שואה יעילה" כזו לא תוכל להתקיים בעתיד בחסות הבינה הרובוטית?

הבעיה הגדולה כרגע היא שלמומחי הרובוטיקה הטובים ביותר אין שמץ של מושג איך מייצרים רובוט שמרגיש, מתלבט, מטיל ספק ובוחר באופציה הלאו דווקא יעילה, אבל מוסרית, רגישה או מתחשבת יותר. בלשון פשוטה ניתן לומר שהבינה המלאכותית הגיעה לשלב שבו היא יודעת לתכנת יעילות, למזער נזקים ולשפר ביצועים, אבל היא רחוקה מיצירת רובוטים שפשוט יבקשו סליחה... ניתן בקלות לתכנת בקשת סליחה של רובוט, אבל החוכמה היא שהיא תבוא לאחר שהרובוט הבין את הפגם המוסרי בהתנהגותו ולא מפני שהוא זיהה בראייה ממוחשבת דמעות בעיניים של בן שיחו.

אז נוכל לנתק את הרובוט מהחשמל, ודאי עלתה המחשבה בראשכם. כן ולא. בהתחלה זה אכן יהיה אמצעי אבטחה יעיל, אבל בשלב מסוים יפתחו בני-אדם רובוט שבכוונה לא ניתן יהיה לכבותו, כדי שיבצע את תפקידו מבלי שבני-אדם יפריעו לו. ככל שהרובוטים יהיו טובים יותר ובעלי יכולות טובות משלנו במילוי התפקידים שלהם, הרגע הזה של רובוט שלא ניתן לנתקו יתקרב. היעילות האנושית מבטיחה שהוא יגיע.

אגב, לא בכל העולם החשש הזה קיים. בעוד שבמערב הרובוטים נתפסים כבעלי פוטנציאל להרס, משהו מפחיד שעלול להפוך הרסני בעתיד, ביפאן ממש אוהבים אותם. אצלם אין שום חשש מהרובוטים והתפיסה המקובלת היא שהם די חמודים. אולי זו הסיבה שבזמן שבאמריקה מפתחים רובוטים צבאיים, היפאנים חוגגים את החיים בפיתוח של רובוטים חמדמדים, מכלבי רובוט עם זנבות דיגיטליים ועד להומנואידים שמחקים בני אדם, רוקדים, שרים וחיים את החיים.


הנה החששות מהבינה המלאכותית של הרובוטים הללו:

https://youtu.be/7qUJRUA0wm0?t=17s


אוסף שמדגים כיצד הקולנוע והספרות הציתו את הפחד הגדול מהרובוטים הנבונים:

https://youtu.be/bqVwLXo2_3I


הדגמה של מצב הבינה המלאכותית:

https://youtu.be/poLZqn2_dv4


הרובוטים שיחליפו בעתיד בני אדם בנתינת שירותים:

https://youtu.be/FlTTPtt_8xk


וסרט תיעודי על הרובוטים ועל האופן שבו תופסים אותם ביפאן, לעומת המערב:

https://youtu.be/sXz0boNmwak?long=yes
הרובוט האל
מה החשש מהרובוט "האל" ב"אודיסיאה בחלל"?



הרובוט האל (Robot Hal) הוא דמות קולנועית מתוך הסרט "2001: אודיסיאה בחלל". האל בסרט הוא רובוט יודע-כל ולא זו בלבד שהוא יודע את התשובה לכל שאלה ששואלים אותו, הוא יודע את התשובה עוד לפני שמסיימים לשאול...

בסרט הופך האל מסוכן לבני אדם, מהרגע שבו הוא נעשה מודע. צרפו לזה את היכולות המתפתחות שלו, כמו היכולת שפיתח בעצמו, לקריאת שפתיים, והרי לכם מישהו, כן מישהו, שירצה בשלב מסוים למלוך. רובוט כי ימלוך!

היות ואיש לא מבחין בסכנה שהאל הולך ומהווה ולא התייחסו אליו כראוי, הופך אותו הבידוד שלו בהדרגה לפסיכוטי והוא משתלט על ספינת החלל, מורד במפקדיה וגורם למשלחת נזקים קשים ואסונות כבדים.

אבל אובדן השליטה על האל מייצג משהו הרבה יותר רחב מעלילה בסרט מדע בדיוני... זה הפחד האנושי שמלווה אותנו תמיד, פחד מהרובוטים ההולכים ונעשים מתוחכמים, שלא לומר חכמים, גאונים, או כל יכולים...

פחד? - קצת כמו הפחד מהרובוטים מחפשי המשמעות מהסרט "בלייד ראנר", שנעשו קטלניים מכיוון שאיש לא התייחס למסע החיפוש שלהם. או כמו ב"אדוננו הרובוט", סרט מדע בדיוני בריטי משובח שמספר על גזע רובוטים אכזר השולט בכדור הארץ, או אפילו כמו הסיפור העתיק על פרנקנשטיין שנלחם בחברה שלא התייחסה אליו ולרגשותיו ופחדה ממנו כמו משד, או "הגולם" של המהר"ל שכבר לפני מאות שנים הבהיר מה קורה כשבאג מתגלה ביצור חזק מדי, שפותח על ידי אדם.

הרעיון על רובוטים שישתלטו על העולם כה הפחיד וחלחל אל תוככי התרבות האנושית עד שאייזק אסימוב, סופר המדע הבדיוני המפורסם, תיקן חוקים בספריו שהתיימרו להסדיר את התנהגותם המוסרית של רובוטים בעתיד.

ואגב, הסיפור הזה לא מדאיג רק יוצרים בספרות ובקולנוע, אלא גם את המדענים, שעורכים כנסים וכותבים מאמרים על הסיכונים ב"פיצוץ הבינתי" שבו ייצרו רובוטים ומכונות חכמות דומות, מכונות שיהיו יותר ויותר חכמות, עד שיוכלו גם הן לעשות זאת ולמרוד במין האנושי. החשש הוא שמצב כזה עלול להביא לסופו של המין האנושי, או גרוע יותר - שנעבוד אצל הרובוטים שלנו בלי תנאים סוציאליים...


הנה סיפורו של הרובוט האל בסקירה על הסרט:

https://youtu.be/7HEhZSLrWyg


האל קורא שפתיים ומבין:

https://youtu.be/QFSE4dUJYM8


אז מגיע המרד של הרובוט האל:

https://youtu.be/ARJ8cAGm6JE


והנה פרשנות מחויכת לסרט הנפלא הזה:

https://youtu.be/Bz6xD3xQiT8
עמק המוזרות
מהו עמק המוזרות ברובוטיקה ואנימציה?



"עמק המוזרות" (The Uncanny valley) היא תופעה מדעית שלפיה העתקים מלאכותיים הדומים באופן כמעט מושלם לבני אדם, אך לא לגמרי, גורמים לאנשים רתיעה ותחושה מלחיצה ומטרידה. זאת בניגוד למצב בו אין לאנשים בעיה עם רובוטים שאינם דומים לבני-אדם, כמו רובוט משטרתי או תעשייתי, או אפילו הרובוט המנקה בתים וגם עם רובוטים הדומים לבני-אדם לגמרי, הנוטים גם הם להיות אהובים על רבים.

הרתיעה הזו מה"כמעט אנושי" דווחה לראשונה בשנת 1970, כשמפתח הרובוטים היפאני מאשירו מורי ציין את הלחץ שהוא מגלה בקרב בני אדם מרובוטים כאלה. הוא היה הראשון שצייר את הגרף שבו ציר אופקי ייצג את "הדמיון לבני אנוש", בעוד הציר האנכי תיאר את "תחושת המוכרות". בגרף הזה ראו בפירוש את הנחיתה התלולה, כשרובוטים מתקרבים לדמיון מושלם לאדם, ואז עליה יפה כשהדימיון מתקרב ל-100%. הירידה הזו בקו מזכירה מעין עמק בין שני הרים ומכאן שמה של התופעה - "עמק המוזרות".

אבל תופעת "עמק המוזרות" לא מתרחשת רק בעולם הרובוטים. מסתבר שגם בדמויות אנימציה אנשים נרתעים מדמויות שהן כמעט אנושיות, אך לא לחלוטין. Tin Toy - סרט קצר של חברת פיקסאר, למשל, לימד אותה בתחילת דרכה שהיכולת ליצור דמויות אנושיות וריאליסטיות מרתיעה את הקהל. בילי התינוק עורר שם רתיעה ודחייה והוגדר על ידי רבים מהצופים כ"קריפי". אם פיקסר מצליחה כל כך מאז, זה מפני שהיא כבר לא מנסה ליצור דמויות כאלה, אלא רק דמויות חמודות, שמזכירות יוצר בובות נעימות, מאשר בני אדם.

החשש והרתיעה מדמויות "אנושיות" שכאלה הוא גם חלק מההסבר של הפחד שלנו מ"הליצנים הרוצחים", אותם אנשים מחופשים שמזנקים משום מקום ומבהילים אנשים ברחבי העולם.

את ההסברים לתופעת ה"קריפיות" של דמויות כאלה מנסים לתלות בהיותן ב"אזור הדמדומים" של זר שהוא מוכר. יש לנו חשש ואף חשד ממי שנראים זרים ועדיין כמאיימים על הישרדותנו. חייזרים, מתים, זומבים - זו רתיעה דומה מהם. כולם עשויים לפגוע בנו ולגרום למוות או להכחדה. לכן אנו נרתעים מהם, כמו מחולים וממתים.

אבל חוקרים אחרים לא נוטים לקבל את עניין היחס האנושי אל המוות, כהסבר מוצלח לתופעה. הם נוטים להסבר קוגניטיבי, שקשור בתפיסה האנושית את הדמויות הללו, שאינה דומה לאופן שבו אנו תופסים יצורים טבעיים בעולם שמסביבנו. מוחנו, הם מסבירים, אוהב למיין ולהכניס כל דבר שאנו חווים, אל תוך "מגרות" בתפיסה שלנו. אלה מעין קטגוריות מובחנות, שמסייעות לנו לגבש עמדה ודרך התמודדות עם הדבר העומד לפנינו. אותם הרובוטים והיצורים שכמעט דומים, אבל לא בדיוק, אלו שנכללים ב"עמק המוזרות", מאתגרים את החלוקה הזו לקטגוריות או הגדרות. כך נוצר במוחנו קונפליקט, כשהזרות והניכור שלנו מהם מתורגם ללחץ, תגובה שלילית ורתיעה פסיכולוגית מהם.

ניכור כזה של "עמק המוזרות", יכול לנבוע, למשל, מדיסוננס (אי התאמה) בין המראה של רובוט כזה, המזכיר בן אדם, לבין אופן התנועה המשונה שלו. סופרים ויוצרי סרטים, אגב, למדו לנצל אותו. זו הסיבה שזומבים בסרטים, או מפלצות קולנועיות וספרותיות כמו פרנקנשטיין או "הגולם" של המהר"ל, יתוארו כמעט תמיד ככאלה שמהלכות בצורה משונה. זה פשוט מפחיד יותר...

כך או כך, נראה שעמק המוזרות מהווה את אחד האתגרים החשובים בתחומי הרובוטיקה החברתית, האנימציה העיצוב הגרפי ועוד.


הנה רובוטים קריפיים ודמויות אנימציה מלחיצות, מעמק המוזרות:

https://youtu.be/CNdAIPoh8a4


הסבר המושג :

https://youtu.be/aYuBDkto2Vk


עמק המוזרות קיים גם במשחקי תפקידים (עברית):

https://youtu.be/IUopwE7BaLw?t=2m53s&end=3m31s


ובאימייג'מטריקס:

https://youtu.be/JF_NFmtw89g


וסרטון ארוך על התופעה וגילויה:

https://youtu.be/9K1Kd9mZL8g
הומנואיד
למה מייצרים רובוטים בצורת אדם?



בתרבות ובקולנוע מתבלטים בדרך כלל הרובוטים דמויי האדם, ההומנואידים (Humanoid) או יומנואידים. ההיגיון בייצור של רובוטים בצורת אדם הוא שרובוט הנראה כבן-אדם יאומץ בקלות רבה יותר על ידי בני-האנוש שאותם הוא אמור לשרת.

רובוטים הומנואידים הם רובוטים מחקי-אדם. גם העיצוב שלהם וגם מגוון מאפיינים שהוטמעו בהם מנסים להקנות הרגשה של תחליף-אנוש. הם מסוגלים לרוב "לשוחח", לנוע ולעשות מחוות המזכירות בני אנוש.

היומנואיד 2P של חברת הונדה, היה מהיומנואידים הראשונים. הוא נחשף בשנת 1996 וידע לצעוד על שתי רגליו, יכולת שהפיתוח שלה עלה עשרות מיליוני דולרים והתמשך כמעט 15 שנה. אפשר להתנחם לבני אנוש לקח הרבה יותר זמן להזדקף וללכת על שתי רגליהם.

אחרי 2P פותחו עוד הומנואידים רבים, כמו הרובוט המנגן בכינור, ההומנואיד האשימו, הרובוטית המטפלת של טויוטה, רובוט הסטנדאפ רובוטספיאן והרובוטית הרקדנית HPR-4.

מטרת הפיתוח של הומנואידים היא יצירה של סביבה שבה רובוטים ישתלבו בחברה האנושית, ללא פחד של בני אדם מהם. הסיבה לפחד כזה היא החשש הקמעי, השכיח כל כך בספרות מדע בדיוני במערב, על רובוטים מחליפי-אדם, שלקחו את השליטה לידיהם וחוללו נזקים נוראים.

מצד שני,אגב, במחקרים נמצא שהעתקים מלאכותיים הדומים באופן כמעט מושלם לבני אדם, אך לא לגמרי, גורמים לאנשים תחושה לא נוחה, מלחיצה ומטרידה. התופעה הזו נקראת "עמק המוזרות".


הנה ראשון ההומנואידים, הרובוטים בצורת אדם:

http://youtu.be/QdQL11uWWcI


שיחה עם פפר, הומנואיד שנון:

https://youtu.be/zJHyaD1psMc


יומנואידית אישה מדהימה ביכולותיה:

http://youtu.be/3IFuv1AVouM


הומנואידית יפה להפליא ובעלת הבעות פנים מהונג קונג:

https://youtu.be/Qd3QDTPgkOg


אוסף של הומנואידים דמויי אדם, בעלי בינה מלאכותית ורגשות:

https://youtu.be/2017kmkEukE

פחד מרובוטים

בינה מלאכותית
מהם הסיכונים שבבינה מלאכותית?



בשנת 2017 ראו החוקרים במעבדת הבינה המלאכותית של פייסבוק את העתיד שממנו אנו חוששים. הם גילו ששתי תוכנות, שני בוטים של מחשב, פיתחו שפה עצמאית כדי לתקשר ביניהם בצורה יעילה מהשפה האנושית שבה תוכנתו לתקשר. החוקרים, שחששו מתקשורת ישירה ועצמאית בין תוכנות, ללא צורך בבני אדם ותוך אובדן השליטה האנושית בהן, ניתקו את התוכנות התבוניות לחלוטין.

זה היה פרק נוסף בתסריט האימים שהאנושות חוששת ממנו. מכונות שעובדות ביחד, באופן עצמאי לחלוטין.

בינה מלאכותית או אינטליגנציה מלאכותית היא ענף במדעי המחשב שמנסה להקנות למחשבים את היכולת לחשוב באופן שבו חושב המוח האנושי. הבינה האנושית היא שונה מזו של המחשב בדרך שבה היא מתרחשת, אבל היא הולכת ומתקדמת לחיקוי החשיבה האנושית.

ההגדרה הידועה ביותר לבינה מלאכותית ידועה בשם 'מבחן טיורינג' ולפיה מחשב ייחשב לבעל תבונה, אם אדם שינהל עמו שיחה, בדרך שאינה מסגירה אם זה מחשב או בן-אנוש, לא יוכל לזהות האם מולו ניצב אדם או מכונה. קראו על כך באאוריקה בתגית "מבחן טיורינג". רק בשנת 2014 עמדה לראשונה תוכנת מחשב במבחן טיורינג, כשהצליחה לעבור את סף 30% מהמשוחחים שחשבו שהם שוחחו עם בן-אדם.

אז בעידן שמחשבי-על עוברים את מבחן טיורינג, ניצחו רבי אמן בשחמט והידע שלהם טוב משל אלופי תכניות הידע בטלוויזיה, מצחיק להיזכר שהחוקר המפורסם מרווין מינסקי הגדיר את האינטליגנציה המלאכותית כיכולת של המפתחים "לגרום למכונה להתנהג בדרך שהייתה נחשבת לאינטליגנטית, לו אדם התנהג כך". מי יודע אם הוא שיער שהסכנות של מכונות בעלות יכולת למידה אנושית תתגלינה כה מהר.

רבים מאנשי המדע והטכנולוגיה מזהירים כיום שמתקרב תסריט האימים של רובוטים תבוניים המצוידים בבינה ונלחמים בבני האדם על השליטה בעולם. חוקרים מפורסמים כמו סטיבן הוקינג ואנשי טכנולוגיה מובילים כמו ביל גייטס ואיילון מאסק, טוענים שהיכולות המדהימות של המחשוב התבוני המתקרב מאיימות על המין האנושי. הוקינג אמר ש"מותר האדם על המכונה הוא ביכולת החשיבה האנושית ואם מכונות יצליחו לחשוב באופן מהיר וזול יותר מבני-אדם, לא יהיה בנו צורך יותר."

מאות מדענים ומובילים טכנולוגיים בעולם כבר חתמו על קריאה להדק את הפיקוח על פיתוחי הבינה המלאכותית. בין החותמים גם מנהלי הפרויקטים לפיתוחים מתקדמים בתחום הבינה המלאכותית בחברות כמו יבמ (חברת IBM שפיתחה את מחשב העל 'ווטסון'), גוגל ופייסבוק. מי מודע יותר מהם לפוטנציאל ההתנגשות שבין האדם למכונה וליחסי הכוחות העתידיים בין השניים? - אז כשהם מצביעים על הסכנות שבדהירה המטורפת לפיתוחי הטכנולוגיה החישובית, לעומת ההתפתחות הקבועה והאיטית של החשיבה האנושית, כדאי לשים לב לכך.


הנה סרטון על הבינה המלאכותית:

http://youtu.be/x-QfL_BmZVE


סכנותיה של האינטליגנציה המלאכותית:

http://youtu.be/LjWc2vtbn9M


אזהרות המומחים מפני מצב שבו יימצא האדם מול מכונה:

http://youtu.be/CbNy67HrvOo


רובוטים שמבוססים על בינה מלאכותית:

http://youtu.be/g0yEDyEppeM
סכנת הרובוטים
האם רובוטים תבוניים ישלטו בנו בעתיד?



הרובוטים שמפותחים בעולם כיום הולכים ונעשים מתוחכמים. בין אם הם הומנואידים ("רובוטים דמויי אדם") או נראים כמו מכונה, בתעשיות רבות הם כבר החליפו את העובדים שליד פס הייצור. בבית הם כבר מנקים וקוצרים את הדשא. אבל בצד הנוחות שברובוטים הללו, יש גם סיכון מסוים בשכלול ההולך ומתגבר בהם. יש טענות של מדענים שונים, שהרובוטים נעשים תבוניים במידה שעלולה לסכן את המין האנושי.

האסטרופיזיקאי הבריטי הנודע סטיבן הוקינג כבר הסביר שהניסיונות ליצור רובוטים בעלי אינטליגנציה מלאכותית מסכנים את קיומו של המין האנושי ועלולים להביא לסופו. ומי כמוהו חווה זאת. הוקינג עצמו משתמש במערכת שפותחה על ידי חברת אינטל, שמאפשרת לו להסתייע באלגוריתמים ובבינה מלאכותית כדי לתקשר עם העולם. המערכת לומדת כל הזמן כיצד חושב הוקינג ומה טיעוניו והדברים שאמר בעבר והיא ממליצה לו על המילים שבהן הוא כנראה ירצה להשתמש בשיחה. זה דומה למערכת הפשוטה יותר שחוזה מה נרצה לכתוב ומשלימה מילים במנוע החיפוש גוגל, או בכתיבה לסמארטפונים המודרניים. דומה, אבל הרבה יותר חכם.

הוקינג ודומיו, כמו מייסד מיקרוסופט ביל גייטס ויזם הטכנולוגיה הגאוני אילון מאסק, רואים בנושא איום קיומי. הם חוששים שפיתוח טכנולוגיה שתלך ותשתווה ליכולות האנושיות של בני אדם, עלול להביא למצב שבו הטכנולוגיה הזו תתעלה על האינטליגנציה של המין האנושי ותשלוט בעולם. רבים חוששים שיצירת מכונות בעלות אינטליגנציה כזו מסכנת אותנו באבדן שליטה בעולם. מה שמפחיד הוא לא הרצון הרע של הרובוטים העתידיים והתבוניים הללו, שכן עוינות ושנאה הן רגשות אנושיים, אלא האדישות לערכים מוסריים ולרגשות כמו חמלה, שמאפיינים לרוב את המין האנושי. יצורים אינטליגנטים שיהיו אדישים למה שבני אדם מחשיבים כחשוב עלולים להיות סיכון קיומי.

מוסדות מחקר נפתחו לנושא, ביניהם "המוסד לעתיד האנושות" באוניברסיטת אוקספורד, "אוניברסיטת הסינגולריות" של נאס"א וגוגל ו"המרכז לחקר סיכונים קיומיים" שנפתח באוניברסיטת קיימבריג'. כל המוסדות מנסים לברר סוגיות כמו פיתוח של רובוט מוסרי, מניעת סיכונים מהם.


הנה "בינה 48" רובוט נבון ומזהה דיבור, שמביע רגשות, מבוסס על זיכרונות של אישה אמתית ומחובר למידע רב באינטרנט:

https://youtu.be/uvcQCJpZJH8


הנה נאו, רובוט סקרן, שמבין ומדבר אנגלית ומתבדח. הוא משמש בעיקר למחקר ואמור להיות עוזר אישי חכם:

http://youtu.be/Io4HiGrFkUw


הנה דיווח על הכללים לפיתוח רובוטים "טובים":

http://youtu.be/5GoKxjnfcWY


אֵאוּרִיקַה - האנציקלופדיה של הסקרנות!

העולם הוא צבעוני ומופלא, אאוריקה כאן בשביל שתגלו אותו...

אלפי נושאים, תמונות וסרטונים, מפתיעים, מסקרנים וממוקדים.

ניתן לנווט בין הפריטים במגע, בעכבר, בגלגלת, או במקשי המקלדת

בואו לגלות, לחקור, ולקבל השראה!

אֵאוּרִיקַה - האנציקלופדיה של הסקרנות!

שלום,
נראה שכבר הכרתם את אאוריקה. בטח כבר גיליתם כאן דברים מדהימים, אולי כבר שאלתם שאלות וקיבלתם תשובות טובות.
נשמח לראות משהו מכם בספר האורחים שלנו: איזו מילה טובה, חוות דעת, עצה חכמה לשיפור או כל מה שיש לכם לספר לנו על אאוריקה, כפי שאתם חווים אותה.