» «
בעיית הטרולי
מהי דילמת הטרולי ומה הקשר ל-AI?



דמיינו לעצמכם שאתם עומדים ליד מסילת רכבת. קרון (טרולי) מתדרדר במורד המסילה לעבר 5 פועלים שעובדים על הפסים ואינם מודעים לסכנה. לידכם מנוף שיכול להסיט את הקרון למסילה צדדית, אבל שם נמצא פועל אחד. האם תמשכו במנוף ותהרגו אדם אחד כדי להציל 5 אחרים?

מדובר בדילמת הטרולי (Trolley Problem), הידועה גם בשמות "בעיית הטרולי" או "בעיית הקרונית". זהו ניסוי מחשבתי שפיתחה הפילוסופית פיליפה פוט (Philippa Foot) בשנת 1967. פוט ניסתה לבחון את ההבדל בין פגיעה ישירה לבין פגיעה עקיפה.

מאוחר יותר, ב-1985, הפילוסופית ג'ודית ג'רוויס תומסון (Judith Jarvis Thomson) הרחיבה את הדילמה בגרסה קיצונית יותר, שבה במקום למשוך מנוף, אתם צריכים לדחוף אדם כבד מגשר כדי לעצור את הקרון. רוב האנשים מוכנים למשוך את המנוף, אבל מסרבים לדחוף את האדם, למרות שהתוצאה המתמטית זהה.

הדילמה עברה מהפילוסופיה לעולם המעשי עם התפתחות מכוניות אוטונומיות וטכנולוגיות בינה מלאכותית. במצבי חירום נדרש רכב אוטונומי לקבל החלטות בשברירי שנייה. וכאן נשאלת השאלה: אם בלימה תגרום לפגיעה ברוכבים, אבל התעלמות תפגע בהולכי רגל, מה צריך הרכב לעשות?

ב-2016 ערכו חוקרים מ-MIT את פרויקט Moral Machine, ניסוי מקוון שבו מיליוני אנשים מרחבי העולם התמודדו עם גרסאות שונות של דילמת הטרולי. התוצאות חשפו הבדלים תרבותיים משמעותיים. מדינות מערביות העדיפו להציל צעירים על פני קשישים, בעוד תרבויות מזרחיות הדגישו כבוד לזקנים דווקא.

החוקרים הגיעו למסקנה שאין פתרון אוניברסלי, מה שמציב אתגר אמיתי למהנדסי AI.

הבעיה מעמיקה אף יותר כשמבינים שבינה מלאכותית לא מתמודדת רק עם סיטואציות חירום. מערכות AI מחליטות היום מי מקבל הלוואה, מי יתקבל לעבודה, מי עלול לבצע פשע. כל החלטה כזו משקפת ערכים מוסריים שתוכנתו בה על ידי מפתחים אנושיים. הפילוסוף מייקל סנדל (Michael Sandel) מאוניברסיטת הרווארד הפך את דילמת הטרולי לאחד מהשיעורים המפורסמים ביותר שלו, בו הוא מדגים שאין תשובה נכונה אחת.

המעניין הוא שבניגוד לבני אדם, שמגיבים באופן אינטואיטיווי למצבי חירום, מכונות מבצעות חישובים מתמטיים קרים. היום, כשבינה מלאכותית חודרת לרפואה, משפט, חינוך וביטחון, דילמת הטרולי הפכה מתרגיל אקדמי לשאלה דחופה על זהות הערכים המוסריים של המכונות שלנו.

אז לפי אילו ערכים מתוכנתות המכונות לפעול?

אגב, גם אם זה לא נכלל בשלושת חוקי הרובוטיקה המקוריים של אסימוב, הוסיף הסופר המזוהה עם הרובוטיקה, עם הזמן, את "חוק ה-0", שיבוא לפני שלושת החוקים. חוק זה קבע שרובוט יצטרך להגן על האנושות, גם אם המחיר הוא פגיעה באדם בודד או בעצמו. בכך העמיד גם הוא את שלום האנושות מעל לשלומם של רובוט או אדם בודדים כלשהם.


הנה דילמת הקרונית (עברית):

https://youtu.be/6jhOI779rSk


ההחלטות המוסריות הללו עומדות גם מול המכוניות האוטונומיות ממש כנו שנהגים צריכים לקבל (עברית):

https://youtu.be/NJcsoA_QL-s


תיאור דילמת הקרונית בקיצור:

https://youtu.be/bOpf6KcWYyw


כאן בעיית הקרונית מתוארת היטב (מתורגם):

https://youtu.be/yg16u_bzjPE


וניסיון של ChatGpt לפתור את בעיית הטרולי:

https://youtu.be/xcsNFSmmNEs?long=yes
מכונית אוטונומית
מהו רכב אוטונומי או המכונית האוטונומית?



המכונית האוטונומית (Autonomous vehicle), המכונית ללא נהג, היא אחד הפיתוחים החזקים ביותר בעולם הרכב של ימינו. כמעט כל יצרניות הרכב הגדולות עובדות על פיתוח של מכוניות כאלה.

חברות טכנולוגיה כמו טסלה וינדקס כבר בעניין ומפתחות במרץ מכוניות ללא נהג ולצידן גם יצרניות רכב ותיקות ומובילות בעולם, דוגמת טויוטה, פולקסווגן, ג'נרל מוטורס, שברולט, ניסאן ומרצדס. כולן עוסקות במרץ בפיתוח של מכוניות אוטונומיות, מתחרות ביניהן מי תהיה הראשונה שמציגה לשוק מכונית אוטונומית פעילה ומאושרת לנהיגה ותוביל את המהפכה המוטורית החשובה ביותר מאז המצאת המכונית.

בתחילה הייתה הבולטת מכולן דווקא חברת האינטרנט "גוגל", שהפכה את ה"גוגל קאר", מכונית אוטונומית מתוצרתה, ל"נערת הפוסטר" של התחום ולאחר שהיעדים לא הושגו מבחינתה היא הפסיקה את הפיתוח.

גוגל, אגב, היא גם המפתחת המתקדמת ביותר בתחום מערכות ההפעלה למכונית האוטונומית. כמו בעולם הסמארטפונים, ה"אנדרואיד אוטו" שלה מתחרה כאן במערכת ה"קאר פליי" של חברת Apple.


מהי הבעיה המוסרית אתית של המכונית הזו (מתורגם):

https://youtu.be/ixIoDYVfKA0


המכונית האוטונומית כבר חשמליות (עברית):

https://youtu.be/3Wx6IWVhGPk


הקונספט האוטונומי של מרצדס (עברית):

https://youtu.be/xvXcQ5970zk


כך מרגישה הנסיעה ברכב אוטונומי:

https://youtu.be/L1Bmc61l99A


כתבת חדשות על המכונית של גוגל (עברית):

http://youtu.be/xHejpYITUoU?t=2s


והסיכוי לתחבורה ציבורית אוטונומית ממש בקרוב (עברית):

https://youtu.be/TDyyC6tExHQ
גוגל קאר
מה היה הרכב ללא נהג של גוגל?



לאחרונה הודיעה חברת גוגל שהיא סוגרת את מיזם ה"גוגל קאר", המכונית ללא נהג. זה היה מיזם דגל של חברת גוגל. הוביל אותו המהנדס סבסטיאן ת'ראן, מנהל המחלקה לבינה מלאכותית באוניברסיטת סטנפורד.

חברת גוגל קידמה חוק שהתקבל במדינת נבדה בארצות הברית, חוק שלראשונה מאפשר הפעלה של מכוניות ללא נהגים בשטח המדינה. כיום נוסעות ברחבי מדינת נבדה עשרות מכוניות ניסוי כאלה. בתחילה נסעה כל אחת מהמכוניות עם שני נהגי ביקורת ולאחר שהניסוי השלים קרוב לחצי מליון קילומטרים של נהיגה ללא תאונה מצד המכוניות של גוגל, הוחלט להוריד את מספר נהגי הביקורת לאחד בלבד.

המכונית ללא נהג של גוגל אינה לבד וכיום מפתחות כמה יצרניות רכב מכוניות דומות. ניסאן ומרצדס הן שתיים מהיצרניות שבשנים הקרובות אמורות להשיק גם הן כלי רכב ללא נהג.


הנה כתבה על המכונית של גוגל (עברית):

http://youtu.be/xHejpYITUoU?t=2s


ואופן הפעולה של המכונית ללא נהג של גוגל:

http://youtu.be/cdgQpa1pUUE
מכונית אוטונומית
איך פועל הרכב האוטונומי והמחשב שנוהג בו?



המכונית האוטונומית (Autonomous car), כמו אחיה לטכנולוגיה מהעולמות האחרים, דוגמת הכטב"ם למשל, אותו כלי טייס לא מאויש, מבוססת על מערכת חכמה שנוהגת אותה במקום נהג.

את הנהג האנושי מחליף ברכב האוטונומי מחשב חכם מאוד, או נכון יותר מחשב עם תוכנה חכמה במיוחד, מבוססת בינה מלאכותית.

חוץ מלשחרר את הנהג מעול הנהיגה ולאפשר לו לנצל את הזמן טוב יותר, המחשב הבינתי שנוהג ברכב האוטונומי מאפשר את הפעולה העצמאית שלו. עם הזמן הציפייה היא שהתפקוד שלו יעלה על זה של נהג ויהיה טוב ובטוח בהרבה מזה של בן אדם.

כי הרכב הרובוטי יצטרך להתמודד עם מיליוני מצבים ותסריטי נהיגה אפשריים. מחשבים אמנם יש בכל המכוניות של הדור האחרון, אבל לתוכנה של מחשבי הרכבים הללו אסור לטעות. לגמרי אסור -מסיבות מובנות.

הרכב האוטונומי, שאגב נקרא גם מכונית רובוטית (cybercar), מנווט בעצמו ויכול להתגבר על שלל מכשולים, ללא עזרה אנושית ובלי שישנו דבר בתשתיות או במכשירים נוספים לאורך הכבישים.

כל המכוניות הללו מצוידות במערכות כלשהן להתראה ומניעת תאונות. אלה כוללות במרבית המקרים חיישני התראה נגד התנגשות, עם מצלמות אינפרה אדום ומכ"ם, ראדאר המגלה איומים וסכנות המחייבות תגובה של המחשב הנהג.

כך לדוגמה, אם מצלמות האינפרה אדום מזהות שהרכב נכנס לתחום הרכב שלפניו, ישמיע הרכב צליל אזהרה. אם הוא יתקרב עוד יותר - הבלמים יופעלו אוטומטית וימנעו התנגשות.

כדי שתמונת הכביש תהיה מדויקת להפליא, מותקנות במכוניות ללא נהג מצלמות המעניקות לה תמונה תלת-ממדית של הסביבה, כולל תמרורים, מכשולים, מבנים, צמתים, שלטים בצד הדרך ועצמים שונים.

סורקי לייזר מקדימה ומאחור מוסיפים עוד מידע הכרחי לבטיחות, כשהמערכת מנטרת ללא הפסק בני אדם, מכוניות, איומים בלתי נראים ופריטי מידע קבועים או משתנים שחשוב "להבין" ולהגיב אליהם בזמן הנהיגה.

בין המכוניות האוטונומיות המדוברות כיום נמצאות אלה של יצרני רכב ותיקים, כמו מרצדס, ניסאן ואחרות, לצד חברות טכנולוגיה כמו טסלה, מובילת הרכב החשמלי כיום, ינדקס הרוסית וגוגל, שפיתחה את ה"גוגל קאר", המכונית ללא נהג שלה ובהמשך הפסיקה את הפיתוח.


כך פועלת המכונית שכבר נוהגת את עצמה וממתינה לרישיון (עברית):

https://youtu.be/97kpp_8QGuI


הנה שאלות מעניינות שמעלה הרכב האוטונומי (מתורגם):

https://youtu.be/ixIoDYVfKA0


הסבר על מכוניות אוטונומיות וחלוקת העבודה החדשה (עברית):

https://youtu.be/ZoXoZdSmaFo?t=14s


המכונית האוטונומית של מרצדס:

https://youtu.be/8aEWHdduPwc


התכניות של חברת BMW למכונית אוטונומית:

https://youtu.be/0DS9PY6iaxE


וסרטון ארוך על המכוניות האוטונומיות (עברית):

https://youtu.be/0bBCVE7j6W4?long=yes

רכב אוטונומי

רכב העתיד
מהו רכב העתיד?



איש כמובן לא יודע כיצד תיראה המכונית של העתיד. כל העולם מדבר על המכונית האוטונומית, רכב ללא נהג שמפתחות חברות שונות כמו גוגל, מרצדס, טסלה ועוד. אבל ישנן מגמות לא פחות מעניינות שאליהן תוכל לפנות תעשיית הרכב העתידית.

ממכוניות מקושרות, דרך כלי רכב שנוסעים ללא נהג, כלי רכב מעופפים, רכבים עם אמצעי בטיחות מדהימים שישמרו על חיי הנוסעים ובטיחותם, כלי רכב ששטים בים, או כאלה המונעים בחשמל, מימן שבמים או דלקים חדשניים אחרים וכמובן רכבים שמעוצבים מחומרים חדשניים - הכל אפשרי בעתיד.

יצרניות הרכב מנסות כל העת לבדוק רעיונות חדשניים ועד כמה ניתן ליישם אותם ברכבים עתידיים שלהן. מכוניות קונספט שהן מייצרות כאבטיפוס, מאפשרות ליצרניות הרכב לבחון תכונות חדשניות, מערכות שיוכלו לשרת את נהגי ונוסעי העתיד ועיצובים המעוררים את הדמיון.

דגמי הקונספט הללו מוצגים בתערוכות רכב ויצרני הרכב בוחנים את תגובות הקהל, המומחים ומבקרי הרכב עליהם. המחקר בתחום הזה מטורף כי ברור לכולם שמכונית העתיד לא תהיה כמו הכרכרות הממונעות והפרימיטיביות יחסית, שאנו נוהגים ונוסעים בהן כיום.


האם כך תרגיש מכונית העתיד?

https://youtu.be/Fa_BPciMNLk


הרכב המעופף שדורות חלמו עליו:

https://youtu.be/JgeMJ1hX9KI


מה שיוכלו לעשות הנוסעים במושב האחורי של מכוניות עתיד:

http://youtu.be/mWISF_KzP0w?t=15s


ומחשבות על עיצוב הפנים של מכונית עתידנית:

http://youtu.be/ZX8I5wiFdLo


אֵאוּרִיקַה - האנציקלופדיה של הסקרנות!

העולם הוא צבעוני ומופלא, אאוריקה כאן בשביל שתגלו אותו...

אלפי נושאים, תמונות וסרטונים, מפתיעים, מסקרנים וממוקדים.

ניתן לנווט בין הפריטים במגע, בעכבר, בגלגלת, או במקשי המקלדת

בואו לגלות, לחקור, ולקבל השראה!

אֵאוּרִיקַה - האנציקלופדיה של הסקרנות!

שלום,
נראה שכבר הכרתם את אאוריקה. בטח כבר גיליתם כאן דברים מדהימים, אולי כבר שאלתם שאלות וקיבלתם תשובות טובות.
נשמח לראות משהו מכם בספר האורחים שלנו: איזו מילה טובה, חוות דעת, עצה חכמה לשיפור או כל מה שיש לכם לספר לנו על אאוריקה, כפי שאתם חווים אותה.