שלום,
נראה שכבר הכרתם את אאוריקה. בטח כבר גיליתם כאן דברים מדהימים, אולי כבר שאלתם שאלות וקיבלתם תשובות טובות.
נשמח לראות משהו מכם בספר האורחים שלנו: איזו מילה טובה, חוות דעת, עצה חכמה לשיפור או כל מה שיש לכם לספר לנו על אאוריקה, כפי שאתם חווים אותה.
»
«
מה היה החורף של הבינה המלאכותית?
החורף של הבינה המלאכותית (The winter of artificial intelligence), או "חורף ה-AI", הוא מונח המתאר תקופה משמעותית בהיסטוריה של מדעי המחשב והטכנולוגיה. תקופה זו, שהתרחשה בעיקר בשנות ה-70 של המאה ה-20, סימנה נקודת מפנה בהתפתחות הבינה המלאכותית ובתפיסה הציבורית שלה.
בתחילת דרכה, בשנות ה-50 וה-60, הבינה המלאכותית הייתה מושא להתלהבות ואופטימיות רבה. חוקרים ומדענים הצליחו לפתח מערכות שיכלו לבצע משימות בסיסיות כמו משחק שחמט ופתרון בעיות מתמטיות פשוטות. ההישגים הללו יצרו ציפיות גבוהות לגבי העתיד, והאמונה הרווחת הייתה שבקרוב נראה מכונות חושבות ברמה אנושית.
אולם, עם כניסת שנות ה-70, החלה להתפשט תחושת פיכחון. התברר כי המערכות שפותחו היו מוגבלות מאוד ביכולותיהן, המחשבים לא ענו על הציפיות הגבוהות שתלו בהם ודרשו תכנות מורכב ומפורט, אפילו לביצוע של מטלות פשוטות יחסית. גם מדענים מצאו את עצמם מתקשים ללמד מחשבים דברים בסיסיים שתינוק יודע לעשות, כמו להבין משפטים על פי ההקשר שלהם ושפה בכלל. הטרידו גם העלויות הגבוהות במיוחד שהיו כרוכות בפיתוח והתחושה בתחום הייתה שהתוצאות לא עומדות בציפיות הגבוהות שנוצרו בעשורים הקודמים.
כתוצאה מכך, ההתלהבות והאופוריה סביב הבינה המלאכותית דעכו. המימון למחקר ופיתוח בתחום הצטמצם באופן דרמטי, וחלק מהחוקרים המובילים עברו לתחומים אחרים. תקופה זו סימנה האטה משמעותית בהתקדמות התחום, והובילה לספקנות רבה לגבי היכולת להגשים את החזון של מכונות חושבות.
חוקרים שונים מגדירים אחרת את אורך התקופה. יש הטוענים שהתקוות המנופצות בחורף של הבינה המלאכותית נמשך עד שנות ה-80, כשתחום ה-AI מתחיל לחוות פריחה מחודשת ואיטית, כשבין השאר שווקו לראשונה מכונות ה-LISP, מכונות הבינה המלאכותית הראשונות. אחרים טוענים שהאביב של הבינה המלאכותית מגיע רק באמצע שנות ה-2000. אין ויכוח שהשינוי הונע, בין השאר, מפיתוח "מערכות המומחה", מערכות ממוחשבות שנועדו לחקות את יכולות קבלת ההחלטות של מומחה אנושי בתחומים ספציפיים. התפתחויות אלו סימנו את תחילתו של "האביב" החדש בבינה מלאכותית.
וכך, בתוך עשור מאז 2005, השתנו מקצה לקצה התפיסה לגבי הבינה המלאכותית והתחזיות לגביה. מי שהובילו לכך היו קבוצות שונות של חוקרים, שניסו בהתמדה לפתח "מוח ממוחשב". הגישה התבססה על הרעיון שהמוח האנושי הוא אוסף רכיבים, המחוברים ביניהם כשלכל אחד מהם תפקיד עצמאי משלו. השינוי שהובילו אותן קבוצות, בהשראת מדעי המוח, היה "הלמידה העמוקה", גישה לבניית מכונות תבוניות, ברעיון שהחל להבשיל ולהתפתח יותר ויותר.
את התוצרים של השינוי המאסיבי הזה אנחנו רואים היום, בעידן הבינה המלאכותית הגנרטיבית, המכונות הלומדות ואינסוף הפיתוחים שמתפוצצים מול עינינו ומושתתים על Deep Learning, אותה "למידה עמוקה", שבה המחשב לומד ומלמד, למעשה, את עצמו.
השפעתו של חורף הבינה המלאכותית חרגה מעבר לתחום המדעי והטכנולוגי. הוא השפיע באופן עמוק על התפיסה הציבורית של התחום, וסימן מעבר מאופטימיות מופרזת לגישה מפוכחת יותר לגבי האפשרויות והמגבלות של טכנולוגיה זו. תקופה זו עיצבה את הדרך שבה אנו מתייחסים לבינה מלאכותית עד היום, ומזכירה לנו את החשיבות של שמירה על ציפיות ריאליסטיות לצד המשך החדשנות והפיתוח הטכנולוגי.
למרות שהחורף של הבינה המלאכותית נתפס בזמנו כתקופה של נסיגה, בראייה לאחור ניתן לראות בו שלב הכרחי בהתפתחות התחום. הוא אילץ את החוקרים לבחון מחדש את הנחות היסוד שלהם ולפתח גישות חדשות ומציאותיות יותר, שבסופו של דבר הובילו להתקדמויות המשמעותיות שאנו עדים להן כיום בעולם הבינה המלאכותית.
הנה סיפור החורף של הבינה המלאכותית:
https://youtu.be/w_v5lumtoPk
כך משתלב חורף הבינה המלאכותית בתולדות ה-AI כשלב קשה ומשתק:
https://youtu.be/yaL5ZMvRRqE
וכך קידמה למידת המכונה את הבינה המלאכותית לשלב הבא (מתורגם):
https://youtu.be/f_uwKZIAeM0
מה הייתה תוכנת השיחה אלייזה?
"אלייזה" (Eliza) הייתה תוכנת שיחה, צ'אטבוט, שנולדה בשנת 1966 וחיקתה שיחה עם פסיכולוג. אלייזה נכתבה על ידי ג'וזף וייצנבאום, מדען מחשב וחוקר מ-MIT, כסוג של פרודיה על טיפולים פסיכולוגיים ופסיכותרפיה, בשיטת קרל רוג'רס. שיטה זו נחשבה בשנות ה-60 להצלחה גדולה. וייצנבאום ואנשיו באוניברסיטת MIT שבבוסטון הופתעו אז לגלות שרבים הגיבו אל 'אלייזה' ממש כאילו הייתה מטפל אמיתי ולא תוכנת מחשב פשוטה.
למרות ששיחה עם אליזה מרגישה לא פעם כשיחה עם דובר אינטליגנטי והיא מגיבה ומתקשרת באופן שנראה הגיוני, בפועל אלייזה אינה חכמה. היא הייתה אז רק סימולציה לשיחה עם פסיכולוג ועל אף שרבים קיוו שהיא תבונית, טענת המפתח הייתה חד-משמעית - אלייזה אינה מצוידת בבינה מלאכותית של ממש!
הטריק של וייצנבאום ואנשי MIT שפיתחו אותה היה לגרום לתוכנה לזהות מילות מפתח בדברי המשוחח עמה ולהשתמש בהן בתשובותיה באופן מתוכנת. דוגמאות לזיהוי מילות מפתח בתחום הטיפולי ולשימוש בהן לקידום השיחה, לא חסרות. נניח שהדובר אמר לאלייזה שהוא עצוב, התוכנה הייתה מגלה את מילת המפתח "עצוב" ושואלת אותו בצ'אט "למה אתה חושב שאתה עצוב?". אם הוא אמר שהוא שמח אז התגובה יכולה להיות כמו "ואיך ההרגשה להיות שמח?"
על שאלות ללא מילות מפתח אלייזה נהגה לשאול אז "האם שאלה זו מעניינת אותך?" או "מה מעניין אותך בשאלה זו?".
כך הולכת ונוצרת נוצרת שיחה משעשעת שכמעט יכולה להביא למחשבה שמדובר במטפל מבין ונבון. בשנות המחקר התגלה שאנשים ייחסו למילים של אלייזה משמעות רבה והתייחסו אליה לא פעם באופן רגשי, ממש כמו אל פסיכולוג אנושי.
באותה תקופה היו שדיברו על יכולותיה של אלייזה כתוכנה חכמה, שאולי תוכל לעמוד ב"מבחן טיורינג" אפשרי. אבל היא לא עשתה זאת, כפי שהצהירו מראש המפתחים. בכל זאת נרשמה אז אכזבה ברורה מכך שאלייזה לא באמת התגלתה כבעלת בינה מלאכותית. מדובר היה בשנות ה-60, עידן שבו כל המחשוב מבוסס המסוף (מקלדת ומסך המתחברים למחשב מרכזי) היה חדשני מאד והציפיות היו גבוהות מהיכולות האמיתיות של עולם המחשבים. רק 15 שנה אחר כך יגיעו המחשבים האישיים, ועוד 30 שנה יעברו, בטרם יתחילו לפעול מנועי חיפוש כמו "אסק ג'יבס", שהתבססו על עיבוד שפה טבעית, כשלצידן פועלות גם תוכנות ומערכות עזרה ממוחשבות "חכמות" מהסוג של "קליפי", שצורף אז ל-Windows.
הכישלון של אלייזה, עד כמה שהוא היה צפוי, היה אחת הסיבות לפתיחתו של העידן שנקרא אז "החורף של הבינה המלאכותית", תקופה שתימשך עד אמצע שנות ה-2000 ותתאפיין באכזבה מהבטחת האינטליגנציה המלאכותית.
גם היום אלייזה מסוגלת לגרום לדוברים עימה לשכוח שהיא מכונה, במצב שנקרא "השעיית חוסר האמונה". את אלייזה ממשיכות כיום תוכנות הצ'אטבוט (Chatbot). מדובר בסוגים של סוכנים חכמים, סוכני AI או סייענים חכמים, שבאחרונה הולכים ותופסים את מקומם בחיינו. הם עשויים להפוך לדרך חדשה לחלוטין להשתמש באינטרנט. במיוחד מכיוון שאנשים מאמינים להן ובהן.
ואגב, מקור השם "אלייזה" הוא בשמה של גיבורת "פיגמליון", המחזה הנודע של ג'ורג' ברנרד שו.
הנה סיפורן של השיחות עם תוכנת אלייזה ההיסטורית:
https://youtu.be/itYWwMJr1X4
שיחה עם תוכנה דמויית אלייזה על מחשב הקומודור:
https://youtu.be/4sngIh0YJtk
השיחות עם אלייזה:
https://youtu.be/CJWOOTMt4ko
מפגש בין צ'אטבוטים - בין העוזרת הווירטואלית של האייפון, סירי, לתוכנת אלייזה:
https://youtu.be/uTiLverShyc
וממשיכיה של אלייזה בעולם הצ'אטבוט:
http://youtu.be/iE9LtfQAYYU
מה ההבדל בין למידת מכונה ללמידה עמוקה?
הלמידה העמוקה (Deep Learning) היא טכנולוגיה שמאפשרת למערכות מחשב לחקות את פעולת המוח האנושי ולבצע למידה עצמית, תוך שיפור מתמיד המאפשר למערכת להיות חכמה יותר ויותר כל הזמן.
אבל מה ההבדל בין למידה עמוקה ללמידת מכונה?
אז ראשית, מבחינת מיון - דיפ לרנינג, בעברית למידה עמוקה, הוא תת-תחום של למידת מכונה.
אבל בעוד שב"למידת מכונה" (Machine Learning) קלאסית הלימוד הוא מתוך דאטה שתויג ואורגן מראש לשם כך, על ידי מי שמאמן את המכונה, בעזרת מה שנקרא "דאטה מתויג" (Labeled data), "למידה עמוקה" (Deep Learning) לומדת בעצמה - עם דאטה כמותי, כלומר מידע רב ולא מאורגן. למשל המוני דוגמאות לא מזוהות או מסודרות דווקא הניתנות לתוכנת הלמידה העמוקה והיא מייצרת את הסיווג וה"הבנה" של הדפוסים והסדר, שמאפשרים לה בהדרגה "להבין" את הדאטה הזה ולהפוך אותו לתובנות וידע, שגם הולך ומשתפר כל הזמן, כמו ילד שכל הזמן לומד דברים חדשים ורוכש תובנות טובות יותר על המציאות והחוקים ששוררים בה.
אם למידת מכונה זו למידת בית ספר, ממישהו שמלמד אותך ומתרגל אותך בלמידה, למידה עמוקה היא הלימוד אחרי שעת הלימודים - בשכונה, מתוך התבוננות, סקרנות ועיבוד נתונים עצמי.
משום כך, ככל שמערכת למידה עמוקה פועלת וככל שהיא בשימוש - היא משתפרת, יודעת יותר ויכולה לבצע משימות מורכבות יותר ובהצלחה הולכת וגדלה.
אז ההבדל בין למידה עמוקה ללמידת מכונה הוא בסיסי. בלמידת מכונה, כדי ללמוד ולהשתפר המערכת הממוחשבת צריכה מומחה אנושי, שיאתר תכונות מסוימות שעל פיהן הוא מאמן את המכונה או התוכנה.
בלמידה עמוקה, לעומת זאת, לא נדרשים בהכרח מי שיבצעו את האימון והארגון, התיוג והסידור של המידע בכדי שהמכונה תלמד. פשוט מזינים אליה המוני מקרים, למשל תמונות לזיהוי או מידע לניתוח, ונותנים לתוכנה לאתר בהם מאפיינים, הבדלים, דפוסים וכדומה. כך היא תזהה בעתיד דברים בתמונות או המלצות לשימוש במידע וכדומה. כך היא תלמד את עצמה כל הזמן ותהפוך יותר ויותר חכמה.
זה אולי גם קצת דומה לשני טיפוסי מורים. יש את המורים שמתעקשים להגיש לתלמידים את הידע "בכפית" ולהראות להם על מה להביט בלמידה, בעוד אחרים, נקרא להם "המלמדים העמוקים", נותנים לתלמידים לאתר את ההבדלים, להעלות השערות לגבי דפוסי מידע וחלוקה, להסיק מסקנות וכדומה.
אז כך, ממש כמו התלמידים אצל "המורה העמוק", תוכנת הלמידה העמוקה מקבלת בלמידה כזו המון "הזדמנויות" ללמוד בעצמה ולהתבגר. זאת במקום האימון על ידי אדם, שמתבטא בהוראות ואימון הממחישים לתוכנה מה לחפש בדאטה, כדי להבחין בין המקרים.
זו, אגב, גם הביקורת של המדענים על השיטה הזו. הם גורסים שלא נדרש עוד ממדענים להבין בעיה כדי לפתור אותה, מה שמביא לרדידות ולפתרון בעיות בניסוי וטעייה טכנולוגיים, במקום באמצעות תיאוריות מעמיקות ובחינתן באופן מדעי.
הנה הסבר פשוט של הלמידה העמוקה:
https://youtu.be/6M5VXKLf4D4
למידה עמוקה מחייבת יותר זמן, יותר דאטה ויותר כוח מחשוב מלמידת מכונה:
https://youtu.be/-SgkLEuhfbg
כך הולך ומתפתח עץ ההחלטות המשתפר של מערכת הלמידה העמוקה:
http://youtu.be/nSg4HKHdDs4
שיעור וידאו קצר על שיטות הלמידה השונות (עברית):
https://youtu.be/Bqdn6e-nH18?long=yes
והרצאה אקדמית על למידה עמוקה (עברית):
https://youtu.be/z-aezi4W90o?long=yes
מהי למידה עמוקה?
הלמידה העמוקה (Deep Learning) היא תחום מחקר בעולם המחשבים וספציפית בתחום "למידת המכונה" שמניח שהמחשב יכול ללמוד וללמד את עצמו, ממש כמו המוח האנושי. מטרתו הברורה של התחום הזה היא ליצור חיקוי ממוחשב של פעולת המוח האנושי.
בין שנות ה-70 לאמצע שנות ה-2000, רווחה אכזבה מאד גדולה מהביצועים של תחום הבינה המלאכותית. התחום, שהבטיח מהפכה של ממש בעולם המחשוב ו"לא סיפק את הסחורה", אכזב במידה רבה והמחקר שלו נכנס לתקופה שכונתה אז "החורף של הבינה המלאכותית".
אבל בשלב מסוים, בשנות האלפיים ואחרי שנים רבות של האכזבה, הפציעה האינטליגנציה המלאכותית מחדש, כשהפעם היא החלה לממש סוף כל סוף את ההבטחה מימי התום שלה. מחשבים מהירים פי מיליון, כמויות מידע עצומות שהחל להציע האינטרנט ושנאגרו על כונני ענק זולים ונגישים - כל אלה הבשילו ביחד עם הבשלה של טכנולוגיה חזקה ומעשית מאי-פעם - "הלמידה העמוקה". הרעיון בה, בפשטות, הוא לפתח "מוח ממוחשב", על בסיס המוח האנושי, תחת הרעיון שהמוח הוא סדרת רכיבים , שלכל אחד מהם תפקיד עצמאי והם מחוברים ביניהם.
ה"הלמידה העמוקה" היא תת-תחום בתוך תחום "למידת המכונה", שגם הוא עצמו, כמו שאומרים מקצועני תחום "למידת המכונה" (ML), מהווה תת-תחום מרכזי בעולם האינטליגנציה המלאכותית.
המיוחד במערכות "למידה עמוקה" הוא היכולת שלהן ללמוד ולהשתפר כל הזמן ולעשות את הלמידה והשיפור המתמיד לגמרי בעצמן. מפתחי מערכות כאלה בונים בשבילה מעין "רשת סמנטית". זו מערכת שמחקה את המערכת הנוירונים שבמוח האנושי וכאמור פועלת ולומדת כמוהו - ככל שהיא פועלת וככל שמשתמשים בה - היא משתפרת ו"יודעת" יותר.
מדובר בתחום חדש יחסית בעולם של חקר המערכות הלומדות, או "למידת המכונה". הוא נקרא גם "הלמידה החישובית" (Machine Learning) והרעיון החדשני בו היה שב"למידה עמוקה" המכונה לומדת בעצמה, מבלי שיאמנו אותה כמו שעושים בלמידה מכונה רגילה.
לטווח רחוק מטרת התחום היא פיתוח של מחשב שיוכל להחליף את החשיבה האנושית. מערכת כזו תהיה מסוגלת לזהות תבניות ודפוסים בדיבור, תמונות, צלילים ועוד סוגי מידע, שהמערכות הממוחשבות התקשו, עד לא מזמן, לעבד ולטפל בהם.
חשיבה עמוקה היא רק בתחילתה, אבל חוקרים נעזרו בה כבר לזיהוי מולקולות שייקשרו למטרות בגוף טוב יותר ומסתייעים בממצאים לפיתוח תרופות חדשות. מחשב או תוכנה שמצוידים ב"חשיבה עמוקה" מבינים כבר היום שפה אנושית במנועי חיפוש, בחיפוש קולי ובעוזרים דיגיטליים כמו "סירי" של חברת אפל ו"קורטנה" של מיקרוסופט. בעתיד יסיקו מערכות כאלה גם מסקנות ויקבלו החלטות בכוחות עצמן.
העתיד מבטיח מפיתוחים אלה מערכות רפואיות שמטפלות בחולים, אנליסטים ומומחים ממוחשבים לניהול כספים ומסחר במניות ועד למערכות ראיה ממוחשבת, שיוכלו לזהות עצמים במרחב ולסווג אותם, ללא צורך בהתערבות אנושית.
באמצעות חיקוי היכולת האנושית ללמוד, מצליחות מערכות למידה עמוקה גם ליצור ציורים, מוסיקה, סרטונים וטקסטים,להמליץ ללקוחות על רכישות, לייצר קריינות מלאכותית, לזהות עצמים ופנים מדויקות בתמונות וסרטונים, לאבחן מחלות, להפיק רווחים ממניות, להלביש פנים של מפורסמים על סרטי וידאו ועוד שלל יישומים.
המלצה:
======
קראו באאוריקה בתגית "Google Brain", על אחד מפרויקטי הבינה המלאכותית הגדולים ביותר אי פעם.
הנה טכנולוגיית הלמידה העמוקה והעתיד שהיא מסמנת, כולל הסכנות האפשריות:
http://youtu.be/IoP9akd44wk
כך עובדים על פיתוח המוח העמוק:
http://youtu.be/zLp-edwiGUU
הדגמה ויזואלית של עץ ההחלטות הגדל ומתפתח של מערכת חכמה:
http://youtu.be/nSg4HKHdDs4
מיהו ג'פרי הינטון, הסנדק והמזהיר מ-AI?
ג'פרי הינטון (Geoffrey Hinton) הוא ממדעני המחשב החשובים בהיסטוריה ומי שמכונה "הסנדק של הבינה המלאכותית".
נולד בלונדון בשנת 1947, הינטון הוא חוליה נוספת בשושלת אינטלקטואלית מרשימה הכוללת בעבר הרחוק את ג'ורג' בול (George Boole), הלוגיקן וממציא האלגברה הבוליאנית (Boolean Algebra), שפת האמת והשקר שעליה מתבסס כל מחשב בעולם.
אשתו של בול, מרי אוורסט בול (Mary Everest Boole), הייתה גם היא מתמטיקאית. הדוד שלה ג'ורג' אוורסט (George Everest) הוא שמדד את ההר הגבוה בעולם וזכה שהאוורסט ייקרא על שמו. דודניתו ג'ואן הינטון (Joan Hinton) למדה פיזיקה אצל אנריקו פרמי ועבדה בפרויקט מנהטן כש שואחרי הפצצת הירושימה עזבה את התחום.
הוא עצמו למד פסיכולוגיה ניסויית באוניברסיטת קיימברידג' (Cambridge) והשלים את הדוקטורט בבינה מלאכותית (Artificial Intelligence) באוניברסיטת אדינבורו.
בחייו האישיים נפגע עמוד השדרה שלו בגיל 19, כשעזר לאמו לסחוב תנור. מאז הוא אינו יכול לשבת זמן ממושך. לכן עבודתו נעשית בעמידה ובנסיעות ברכב הוא שוכב על המושב האחורי. על כל הכאבים הללו נוסף גם האובדן הטרגי של מי ששתי נשותיו הראשונות מתו כל אחת בזמנה מסוג אחר של סרטן.
כמו אלפרד נובל וממציא הגז ששימש ללוחמה כימית, נראה שגם הינטון, בתור מי שנתן למחשבים מוח ולימד אותם לחשוב, מתחרט ומצטער מעט. החששות שלו, בשל הסיכונים האפשריים שהוא מזהה בבינה המלאכותית, מגיעים עד לחשש מהכחדת האנושות.
#כיצד הגיע לכך בדרכו המדעית וטכנולוגית
הממציא שיצר את החשיבה הממוחשבת ומי שרבים רואים בו את המוח החשוב ביותר בבינה מלאכותית, הוא מהדמויות הבולטות בפיתוח תחום הלמידה העמוקה (Deep Learning).
הינטון הוא מחלוצי המדענים שפיתחו רשתות עצביות המחקות את פעולת המוח האנושי, רשתות מבוססות נוירונים מלאכותיים שמייצגים קשרים בין יחידות חישוביות ושבדומה לסינפסות במוח משפיע כל אחד מהם על השני. בתהליך אימון של רשתות כאלה מתבססים על חיזוק הקשרים בין הנוירונים המלאכותיים, פעולה דומה לחיזוק הקשרים שנעשים במוח בזמן הלמידה.
באמצעות השיטה שהמציא הינטון הצליחה רשת עצבית לראשונה לזהות וללמוד מאפיינים שונים בנתונים. זו עתידה להיות הטכנולוגיה שתעמוד בבסיס היכולת של מערכות לזהות תמונה, לתרגם שפות ולשוחח עם בני אדם שיחות “שקולות”.
כבר בשנות ה-80 הוא הניח עם שותפו ג'ון הופפילד את היסודות לרשתות עצביות מלאכותיות, מערכות מתמטיות שיפעלו בהשראת המוח האנושי.
ב-1985 הינטון ושותפיו מפתחים את "מכונת בולצמן" (Boltzmann Machine), מודל למידה שאימץ כלים מהפיזיקה הסטטיסטית ואפשר זיהוי מאפיינים ולמידה אוטומטית. זה המודל שיהפוך לבסיס טכנולוגיות הבינה המלאכותית המודרניות, כולל יישומים כמו ChatGPT וה-GenAI.
ב-2012, עם הסטודנטים שלו אלכס קריז'בסקי ואיליה סוצקבר הוא פיתח את רשת AlexNet שניצחה בתחרות זיהוי תמונות בפער, סימנה את עידן הלמידה העמוקה והייתה למפץ הגדול שיניע את מהפכת הבינה המלאכותית.
הוא מי שלימד את מייסדי OpenAI ו-DeepMind, בדגש על איליה סוצקבר שהוא הנחה לדוקטורט ויהיה לאחד ממייסדי OpenAI, החברה שתתחיל את התחרות המטורפת בפיתוח AI, בין גוגל, מטא, OpenAI ושאר ענקיות הטכנולוגיה בעולם.
לאחר שכיהן כעשור כסגן נשיא בחברת גוגל (Google) והוביל את מחקרי החברה בתחום הבינה המלאכותית, עוזב הינטון ב-2023 את החברה, כדי להזהיר באופן חופשי מפני הסכנות של הטכנולוגיה שבנה. "כל עוד גוגל משלמת לי," הוא אומר, "איני יכול לדבר על כך." הוא אומר ויוצר גל של כותרות בתקשורת. מאז הוא מבהיר שוב ושוב שהטכנולוגיה שהיה מבוראיה מסוכנת לגורל האנושות ואף עלולה גם לחסלה.
בשנת 2024 הינטון זוכה ביחד עם ג'ון הופפילד (John Hopfield) בפרס נובל לפיזיקה וממשיך להזהיר את כולנו.
ואגב, בהמשך לאזהרותיו פרסמה גם קבוצת מומחי בינה מלאכותית נוספים מחקר בשם AI2027 שחוזה כי בשנת 2027 ה-AI ישתבש או ייצא משליטה ויוביל להכחדת האנושות בתוך עשור.
אפשר להכיר את הנושא בתגית "רשתות נוירונים".
הנה ג'ף הינטון:
https://youtu.be/l9RWTMNnvi4
תחזית מדעית AI2027 שמנבאת בדיוק את מה שהינטון מזהיר ממנו:
https://youtu.be/1UufaK3pQMg
ראיון בתכנית 60 דקות שגם בו הוא מזהיר מסכנות הבינה המלאכותית:
https://youtu.be/qrvK_KuIeJk?long=yes
וסיפורו של הילד שנכשל בבית ספר והפך לגאון עולמי פורץ דרך:
https://youtu.be/zaFnUBuLS0E?long=yes
מי פיתחו את רשתות הנוירונים הממוחשבות?
רשתות נוירונים (Neural Networks) הן רשתות מחשבים מתקדמות שמחקות את החשיבה האנושית.
בשנות ה-40 של המאה ה-20 ישב נוירולוג בשם וורן מקאלוך (Warren McCulloch) לצד נער-פלא בשם וולטר פיטס (Walter Pitts) ושאל שאלה שנשמעה אז כמעט מגוחכת: מה אם נוכל לתאר את תאי העצב של המוח בשפת מתמטיקה?
פיטס, שגדל בדטרויט במשפחה קשה, ברח בגיל 12 מבריונים של השכונה לספרייה הציבורית. שם נתקל בספר הפילוסופי המסורבל "פרינציפיה מתמטיקה" (Principia Mathematica) של ברטרנד ראסל (Bertrand Russell) וסיים לקרוא את שלושת כרכיו תוך שלושה ימים.
פיטס מצא בספר הנודע טעויות, כתב על כך לראסל, ראסל הזמין אותו ללמוד בקיימברידג', אך פיטס בן ה-12 סירב בנימוס. כשהיה בן 15 ושמע שראסל מגיע לאוניברסיטת שיקגו, הוא ברח מהבית באמצע הלילה ולא שב למשפחתו יותר.
ב-1943 פרסמו מקאלוך ופיטס מאמר שהפך לאחד החשובים בתולדות המדע. במאמר הם הראו שאפשר לדגם נוירון ביולוגי כיחידה לוגית פשוטה המקבלת קלטים ומוציאה פלט. זה היה המודל הממוחשב הראשון של תא עצב.
שנים אחדות אחר כך הציע הפסיכולוג הקנדי דונלד הב (Donald Hebb) תובנה שנשמעת פשוטה אך שינתה את הכל: ככל שנוירון אחד מפעיל נוירון אחר שוב ושוב, הקשר ביניהם מתחזק. זהו בדיוק עיקרון הלמידה ו"כלל הב" (Hebb's Rule) מנחה עד היום כיצד מכונות לומדות.
ב-1958 בנה פרנק רוזנבלט (Frank Rosenblatt) את ה"פרספטרון" (Perceptron), מכונה שסיווגה תמונות פשוטות. רוזנבלט הבטיח שהיא תדע בהצשך גם לדבר ולתרגם שפות.
העיתונות התלהבה מהרעיונות של רוזנבלט, אך כעשור לאחר מכן הוכיח המתמטיקאי מרווין מינסקי (Marvin Minsky) שלפרספטרון יש מגבלות קשות, מה שהביא לכך שהתחום קפא, למשל שנות קיפאון שיוודעו בשם "חורף הבינה המלאכותית" (AI Winter).
הפריצה הגדולה הגיעה ב-1986, כשג'פרי הינטון (Geoffrey Hinton) ועמיתיו פרסמו מאמר שהנגיש את אלגוריתם ה"התפשטות לאחור" (Backpropagation). זו הייתה שיטה שאיפשרה לרשת בעלת שכבות מרובות ללמוד מטעויותיה. הינטון, יאן לקון (Yann LeCun) ויושואה בנג'יו (Yoshua Bengio) קיבלו יחד את פרס טיורינג ב-2018 ומכונים מאז "סנדקי הלמידה העמוקה" (Godfathers of Deep Learning).
ב-2024 קיבל הינטון את פרס נובל בפיזיקה, יחד עם ג'ון הופילד (John Hopfield), על עבודה שהתחילה כניסוי אקדמי צנוע. כשביקש ממנו כתב של הניו-יורק טיימס להסביר את המכונה שלו במשפטים פשוטים, הינטון ענה בחיוך: "אם יכולתי להסביר את זה תוך כמה דקות, זה לא היה שווה פרס נובל."
מה שמאחד את כל החוקרים שפיתחו את רשתות הנוירונים הממוחשבות הוא דבר אחד וברור: הם לא המציאו אינטליגנציה מאפס, אלא הביטו על המוח, על תאי העצב ועל הדרך שבה בני אדם לומדים ושאלו כיצד אפשר לחקות את זה. הטבע היה המהנדס הראשון ןבכך כנראה שהם רק עזרו, עזרה אדירה אמנם, לפתח את רשתות הנוירונים של עולם ה-AI.
המלצה:
======
קראו באאוריקה בתגית "גוף האדם" על עוד מערכות בגוף ונסו להעלות רעיונות לעוד פיתוחים טכנולוגיים שיפתרו בעיות בעולם באמצעות חיקוי של פתרונות שבמערכות גופנו.
הנה הינטון:
https://youtu.be/l9RWTMNnvi4
ראיון בתכנית 60 דקות:
https://youtu.be/qrvK_KuIeJk
הנה התהליך הכימי של מעבר המידע בין הנוירונים במוח (מתורגם):
https://youtu.be/6Ra3il45vnE
רשתות הנוירונים הממוחשבות (מתורגם):
https://youtu.be/JrXazCEACVo
הסבר מדעי (מתורגם):
https://youtu.be/Z6xDuPOgT_Q
והפיתוח שלהם על ידי למידה מהביולוגיה והטבע:
https://youtu.be/JqMpGrM5ECo
החורף של הבינה המלאכותית (The winter of artificial intelligence), או "חורף ה-AI", הוא מונח המתאר תקופה משמעותית בהיסטוריה של מדעי המחשב והטכנולוגיה. תקופה זו, שהתרחשה בעיקר בשנות ה-70 של המאה ה-20, סימנה נקודת מפנה בהתפתחות הבינה המלאכותית ובתפיסה הציבורית שלה.
בתחילת דרכה, בשנות ה-50 וה-60, הבינה המלאכותית הייתה מושא להתלהבות ואופטימיות רבה. חוקרים ומדענים הצליחו לפתח מערכות שיכלו לבצע משימות בסיסיות כמו משחק שחמט ופתרון בעיות מתמטיות פשוטות. ההישגים הללו יצרו ציפיות גבוהות לגבי העתיד, והאמונה הרווחת הייתה שבקרוב נראה מכונות חושבות ברמה אנושית.
אולם, עם כניסת שנות ה-70, החלה להתפשט תחושת פיכחון. התברר כי המערכות שפותחו היו מוגבלות מאוד ביכולותיהן, המחשבים לא ענו על הציפיות הגבוהות שתלו בהם ודרשו תכנות מורכב ומפורט, אפילו לביצוע של מטלות פשוטות יחסית. גם מדענים מצאו את עצמם מתקשים ללמד מחשבים דברים בסיסיים שתינוק יודע לעשות, כמו להבין משפטים על פי ההקשר שלהם ושפה בכלל. הטרידו גם העלויות הגבוהות במיוחד שהיו כרוכות בפיתוח והתחושה בתחום הייתה שהתוצאות לא עומדות בציפיות הגבוהות שנוצרו בעשורים הקודמים.
כתוצאה מכך, ההתלהבות והאופוריה סביב הבינה המלאכותית דעכו. המימון למחקר ופיתוח בתחום הצטמצם באופן דרמטי, וחלק מהחוקרים המובילים עברו לתחומים אחרים. תקופה זו סימנה האטה משמעותית בהתקדמות התחום, והובילה לספקנות רבה לגבי היכולת להגשים את החזון של מכונות חושבות.
חוקרים שונים מגדירים אחרת את אורך התקופה. יש הטוענים שהתקוות המנופצות בחורף של הבינה המלאכותית נמשך עד שנות ה-80, כשתחום ה-AI מתחיל לחוות פריחה מחודשת ואיטית, כשבין השאר שווקו לראשונה מכונות ה-LISP, מכונות הבינה המלאכותית הראשונות. אחרים טוענים שהאביב של הבינה המלאכותית מגיע רק באמצע שנות ה-2000. אין ויכוח שהשינוי הונע, בין השאר, מפיתוח "מערכות המומחה", מערכות ממוחשבות שנועדו לחקות את יכולות קבלת ההחלטות של מומחה אנושי בתחומים ספציפיים. התפתחויות אלו סימנו את תחילתו של "האביב" החדש בבינה מלאכותית.
וכך, בתוך עשור מאז 2005, השתנו מקצה לקצה התפיסה לגבי הבינה המלאכותית והתחזיות לגביה. מי שהובילו לכך היו קבוצות שונות של חוקרים, שניסו בהתמדה לפתח "מוח ממוחשב". הגישה התבססה על הרעיון שהמוח האנושי הוא אוסף רכיבים, המחוברים ביניהם כשלכל אחד מהם תפקיד עצמאי משלו. השינוי שהובילו אותן קבוצות, בהשראת מדעי המוח, היה "הלמידה העמוקה", גישה לבניית מכונות תבוניות, ברעיון שהחל להבשיל ולהתפתח יותר ויותר.
את התוצרים של השינוי המאסיבי הזה אנחנו רואים היום, בעידן הבינה המלאכותית הגנרטיבית, המכונות הלומדות ואינסוף הפיתוחים שמתפוצצים מול עינינו ומושתתים על Deep Learning, אותה "למידה עמוקה", שבה המחשב לומד ומלמד, למעשה, את עצמו.
השפעתו של חורף הבינה המלאכותית חרגה מעבר לתחום המדעי והטכנולוגי. הוא השפיע באופן עמוק על התפיסה הציבורית של התחום, וסימן מעבר מאופטימיות מופרזת לגישה מפוכחת יותר לגבי האפשרויות והמגבלות של טכנולוגיה זו. תקופה זו עיצבה את הדרך שבה אנו מתייחסים לבינה מלאכותית עד היום, ומזכירה לנו את החשיבות של שמירה על ציפיות ריאליסטיות לצד המשך החדשנות והפיתוח הטכנולוגי.
למרות שהחורף של הבינה המלאכותית נתפס בזמנו כתקופה של נסיגה, בראייה לאחור ניתן לראות בו שלב הכרחי בהתפתחות התחום. הוא אילץ את החוקרים לבחון מחדש את הנחות היסוד שלהם ולפתח גישות חדשות ומציאותיות יותר, שבסופו של דבר הובילו להתקדמויות המשמעותיות שאנו עדים להן כיום בעולם הבינה המלאכותית.
הנה סיפור החורף של הבינה המלאכותית:
https://youtu.be/w_v5lumtoPk
כך משתלב חורף הבינה המלאכותית בתולדות ה-AI כשלב קשה ומשתק:
https://youtu.be/yaL5ZMvRRqE
וכך קידמה למידת המכונה את הבינה המלאכותית לשלב הבא (מתורגם):
https://youtu.be/f_uwKZIAeM0
"אלייזה" (Eliza) הייתה תוכנת שיחה, צ'אטבוט, שנולדה בשנת 1966 וחיקתה שיחה עם פסיכולוג. אלייזה נכתבה על ידי ג'וזף וייצנבאום, מדען מחשב וחוקר מ-MIT, כסוג של פרודיה על טיפולים פסיכולוגיים ופסיכותרפיה, בשיטת קרל רוג'רס. שיטה זו נחשבה בשנות ה-60 להצלחה גדולה. וייצנבאום ואנשיו באוניברסיטת MIT שבבוסטון הופתעו אז לגלות שרבים הגיבו אל 'אלייזה' ממש כאילו הייתה מטפל אמיתי ולא תוכנת מחשב פשוטה.
למרות ששיחה עם אליזה מרגישה לא פעם כשיחה עם דובר אינטליגנטי והיא מגיבה ומתקשרת באופן שנראה הגיוני, בפועל אלייזה אינה חכמה. היא הייתה אז רק סימולציה לשיחה עם פסיכולוג ועל אף שרבים קיוו שהיא תבונית, טענת המפתח הייתה חד-משמעית - אלייזה אינה מצוידת בבינה מלאכותית של ממש!
הטריק של וייצנבאום ואנשי MIT שפיתחו אותה היה לגרום לתוכנה לזהות מילות מפתח בדברי המשוחח עמה ולהשתמש בהן בתשובותיה באופן מתוכנת. דוגמאות לזיהוי מילות מפתח בתחום הטיפולי ולשימוש בהן לקידום השיחה, לא חסרות. נניח שהדובר אמר לאלייזה שהוא עצוב, התוכנה הייתה מגלה את מילת המפתח "עצוב" ושואלת אותו בצ'אט "למה אתה חושב שאתה עצוב?". אם הוא אמר שהוא שמח אז התגובה יכולה להיות כמו "ואיך ההרגשה להיות שמח?"
על שאלות ללא מילות מפתח אלייזה נהגה לשאול אז "האם שאלה זו מעניינת אותך?" או "מה מעניין אותך בשאלה זו?".
כך הולכת ונוצרת נוצרת שיחה משעשעת שכמעט יכולה להביא למחשבה שמדובר במטפל מבין ונבון. בשנות המחקר התגלה שאנשים ייחסו למילים של אלייזה משמעות רבה והתייחסו אליה לא פעם באופן רגשי, ממש כמו אל פסיכולוג אנושי.
באותה תקופה היו שדיברו על יכולותיה של אלייזה כתוכנה חכמה, שאולי תוכל לעמוד ב"מבחן טיורינג" אפשרי. אבל היא לא עשתה זאת, כפי שהצהירו מראש המפתחים. בכל זאת נרשמה אז אכזבה ברורה מכך שאלייזה לא באמת התגלתה כבעלת בינה מלאכותית. מדובר היה בשנות ה-60, עידן שבו כל המחשוב מבוסס המסוף (מקלדת ומסך המתחברים למחשב מרכזי) היה חדשני מאד והציפיות היו גבוהות מהיכולות האמיתיות של עולם המחשבים. רק 15 שנה אחר כך יגיעו המחשבים האישיים, ועוד 30 שנה יעברו, בטרם יתחילו לפעול מנועי חיפוש כמו "אסק ג'יבס", שהתבססו על עיבוד שפה טבעית, כשלצידן פועלות גם תוכנות ומערכות עזרה ממוחשבות "חכמות" מהסוג של "קליפי", שצורף אז ל-Windows.
הכישלון של אלייזה, עד כמה שהוא היה צפוי, היה אחת הסיבות לפתיחתו של העידן שנקרא אז "החורף של הבינה המלאכותית", תקופה שתימשך עד אמצע שנות ה-2000 ותתאפיין באכזבה מהבטחת האינטליגנציה המלאכותית.
גם היום אלייזה מסוגלת לגרום לדוברים עימה לשכוח שהיא מכונה, במצב שנקרא "השעיית חוסר האמונה". את אלייזה ממשיכות כיום תוכנות הצ'אטבוט (Chatbot). מדובר בסוגים של סוכנים חכמים, סוכני AI או סייענים חכמים, שבאחרונה הולכים ותופסים את מקומם בחיינו. הם עשויים להפוך לדרך חדשה לחלוטין להשתמש באינטרנט. במיוחד מכיוון שאנשים מאמינים להן ובהן.
ואגב, מקור השם "אלייזה" הוא בשמה של גיבורת "פיגמליון", המחזה הנודע של ג'ורג' ברנרד שו.
הנה סיפורן של השיחות עם תוכנת אלייזה ההיסטורית:
https://youtu.be/itYWwMJr1X4
שיחה עם תוכנה דמויית אלייזה על מחשב הקומודור:
https://youtu.be/4sngIh0YJtk
השיחות עם אלייזה:
https://youtu.be/CJWOOTMt4ko
מפגש בין צ'אטבוטים - בין העוזרת הווירטואלית של האייפון, סירי, לתוכנת אלייזה:
https://youtu.be/uTiLverShyc
וממשיכיה של אלייזה בעולם הצ'אטבוט:
http://youtu.be/iE9LtfQAYYU
הלמידה העמוקה (Deep Learning) היא טכנולוגיה שמאפשרת למערכות מחשב לחקות את פעולת המוח האנושי ולבצע למידה עצמית, תוך שיפור מתמיד המאפשר למערכת להיות חכמה יותר ויותר כל הזמן.
אבל מה ההבדל בין למידה עמוקה ללמידת מכונה?
אז ראשית, מבחינת מיון - דיפ לרנינג, בעברית למידה עמוקה, הוא תת-תחום של למידת מכונה.
אבל בעוד שב"למידת מכונה" (Machine Learning) קלאסית הלימוד הוא מתוך דאטה שתויג ואורגן מראש לשם כך, על ידי מי שמאמן את המכונה, בעזרת מה שנקרא "דאטה מתויג" (Labeled data), "למידה עמוקה" (Deep Learning) לומדת בעצמה - עם דאטה כמותי, כלומר מידע רב ולא מאורגן. למשל המוני דוגמאות לא מזוהות או מסודרות דווקא הניתנות לתוכנת הלמידה העמוקה והיא מייצרת את הסיווג וה"הבנה" של הדפוסים והסדר, שמאפשרים לה בהדרגה "להבין" את הדאטה הזה ולהפוך אותו לתובנות וידע, שגם הולך ומשתפר כל הזמן, כמו ילד שכל הזמן לומד דברים חדשים ורוכש תובנות טובות יותר על המציאות והחוקים ששוררים בה.
אם למידת מכונה זו למידת בית ספר, ממישהו שמלמד אותך ומתרגל אותך בלמידה, למידה עמוקה היא הלימוד אחרי שעת הלימודים - בשכונה, מתוך התבוננות, סקרנות ועיבוד נתונים עצמי.
משום כך, ככל שמערכת למידה עמוקה פועלת וככל שהיא בשימוש - היא משתפרת, יודעת יותר ויכולה לבצע משימות מורכבות יותר ובהצלחה הולכת וגדלה.
אז ההבדל בין למידה עמוקה ללמידת מכונה הוא בסיסי. בלמידת מכונה, כדי ללמוד ולהשתפר המערכת הממוחשבת צריכה מומחה אנושי, שיאתר תכונות מסוימות שעל פיהן הוא מאמן את המכונה או התוכנה.
בלמידה עמוקה, לעומת זאת, לא נדרשים בהכרח מי שיבצעו את האימון והארגון, התיוג והסידור של המידע בכדי שהמכונה תלמד. פשוט מזינים אליה המוני מקרים, למשל תמונות לזיהוי או מידע לניתוח, ונותנים לתוכנה לאתר בהם מאפיינים, הבדלים, דפוסים וכדומה. כך היא תזהה בעתיד דברים בתמונות או המלצות לשימוש במידע וכדומה. כך היא תלמד את עצמה כל הזמן ותהפוך יותר ויותר חכמה.
זה אולי גם קצת דומה לשני טיפוסי מורים. יש את המורים שמתעקשים להגיש לתלמידים את הידע "בכפית" ולהראות להם על מה להביט בלמידה, בעוד אחרים, נקרא להם "המלמדים העמוקים", נותנים לתלמידים לאתר את ההבדלים, להעלות השערות לגבי דפוסי מידע וחלוקה, להסיק מסקנות וכדומה.
אז כך, ממש כמו התלמידים אצל "המורה העמוק", תוכנת הלמידה העמוקה מקבלת בלמידה כזו המון "הזדמנויות" ללמוד בעצמה ולהתבגר. זאת במקום האימון על ידי אדם, שמתבטא בהוראות ואימון הממחישים לתוכנה מה לחפש בדאטה, כדי להבחין בין המקרים.
זו, אגב, גם הביקורת של המדענים על השיטה הזו. הם גורסים שלא נדרש עוד ממדענים להבין בעיה כדי לפתור אותה, מה שמביא לרדידות ולפתרון בעיות בניסוי וטעייה טכנולוגיים, במקום באמצעות תיאוריות מעמיקות ובחינתן באופן מדעי.
הנה הסבר פשוט של הלמידה העמוקה:
https://youtu.be/6M5VXKLf4D4
למידה עמוקה מחייבת יותר זמן, יותר דאטה ויותר כוח מחשוב מלמידת מכונה:
https://youtu.be/-SgkLEuhfbg
כך הולך ומתפתח עץ ההחלטות המשתפר של מערכת הלמידה העמוקה:
http://youtu.be/nSg4HKHdDs4
שיעור וידאו קצר על שיטות הלמידה השונות (עברית):
https://youtu.be/Bqdn6e-nH18?long=yes
והרצאה אקדמית על למידה עמוקה (עברית):
https://youtu.be/z-aezi4W90o?long=yes
הלמידה העמוקה (Deep Learning) היא תחום מחקר בעולם המחשבים וספציפית בתחום "למידת המכונה" שמניח שהמחשב יכול ללמוד וללמד את עצמו, ממש כמו המוח האנושי. מטרתו הברורה של התחום הזה היא ליצור חיקוי ממוחשב של פעולת המוח האנושי.
בין שנות ה-70 לאמצע שנות ה-2000, רווחה אכזבה מאד גדולה מהביצועים של תחום הבינה המלאכותית. התחום, שהבטיח מהפכה של ממש בעולם המחשוב ו"לא סיפק את הסחורה", אכזב במידה רבה והמחקר שלו נכנס לתקופה שכונתה אז "החורף של הבינה המלאכותית".
אבל בשלב מסוים, בשנות האלפיים ואחרי שנים רבות של האכזבה, הפציעה האינטליגנציה המלאכותית מחדש, כשהפעם היא החלה לממש סוף כל סוף את ההבטחה מימי התום שלה. מחשבים מהירים פי מיליון, כמויות מידע עצומות שהחל להציע האינטרנט ושנאגרו על כונני ענק זולים ונגישים - כל אלה הבשילו ביחד עם הבשלה של טכנולוגיה חזקה ומעשית מאי-פעם - "הלמידה העמוקה". הרעיון בה, בפשטות, הוא לפתח "מוח ממוחשב", על בסיס המוח האנושי, תחת הרעיון שהמוח הוא סדרת רכיבים , שלכל אחד מהם תפקיד עצמאי והם מחוברים ביניהם.
ה"הלמידה העמוקה" היא תת-תחום בתוך תחום "למידת המכונה", שגם הוא עצמו, כמו שאומרים מקצועני תחום "למידת המכונה" (ML), מהווה תת-תחום מרכזי בעולם האינטליגנציה המלאכותית.
המיוחד במערכות "למידה עמוקה" הוא היכולת שלהן ללמוד ולהשתפר כל הזמן ולעשות את הלמידה והשיפור המתמיד לגמרי בעצמן. מפתחי מערכות כאלה בונים בשבילה מעין "רשת סמנטית". זו מערכת שמחקה את המערכת הנוירונים שבמוח האנושי וכאמור פועלת ולומדת כמוהו - ככל שהיא פועלת וככל שמשתמשים בה - היא משתפרת ו"יודעת" יותר.
מדובר בתחום חדש יחסית בעולם של חקר המערכות הלומדות, או "למידת המכונה". הוא נקרא גם "הלמידה החישובית" (Machine Learning) והרעיון החדשני בו היה שב"למידה עמוקה" המכונה לומדת בעצמה, מבלי שיאמנו אותה כמו שעושים בלמידה מכונה רגילה.
לטווח רחוק מטרת התחום היא פיתוח של מחשב שיוכל להחליף את החשיבה האנושית. מערכת כזו תהיה מסוגלת לזהות תבניות ודפוסים בדיבור, תמונות, צלילים ועוד סוגי מידע, שהמערכות הממוחשבות התקשו, עד לא מזמן, לעבד ולטפל בהם.
חשיבה עמוקה היא רק בתחילתה, אבל חוקרים נעזרו בה כבר לזיהוי מולקולות שייקשרו למטרות בגוף טוב יותר ומסתייעים בממצאים לפיתוח תרופות חדשות. מחשב או תוכנה שמצוידים ב"חשיבה עמוקה" מבינים כבר היום שפה אנושית במנועי חיפוש, בחיפוש קולי ובעוזרים דיגיטליים כמו "סירי" של חברת אפל ו"קורטנה" של מיקרוסופט. בעתיד יסיקו מערכות כאלה גם מסקנות ויקבלו החלטות בכוחות עצמן.
העתיד מבטיח מפיתוחים אלה מערכות רפואיות שמטפלות בחולים, אנליסטים ומומחים ממוחשבים לניהול כספים ומסחר במניות ועד למערכות ראיה ממוחשבת, שיוכלו לזהות עצמים במרחב ולסווג אותם, ללא צורך בהתערבות אנושית.
באמצעות חיקוי היכולת האנושית ללמוד, מצליחות מערכות למידה עמוקה גם ליצור ציורים, מוסיקה, סרטונים וטקסטים,להמליץ ללקוחות על רכישות, לייצר קריינות מלאכותית, לזהות עצמים ופנים מדויקות בתמונות וסרטונים, לאבחן מחלות, להפיק רווחים ממניות, להלביש פנים של מפורסמים על סרטי וידאו ועוד שלל יישומים.
המלצה:
======
קראו באאוריקה בתגית "Google Brain", על אחד מפרויקטי הבינה המלאכותית הגדולים ביותר אי פעם.
הנה טכנולוגיית הלמידה העמוקה והעתיד שהיא מסמנת, כולל הסכנות האפשריות:
http://youtu.be/IoP9akd44wk
כך עובדים על פיתוח המוח העמוק:
http://youtu.be/zLp-edwiGUU
הדגמה ויזואלית של עץ ההחלטות הגדל ומתפתח של מערכת חכמה:
http://youtu.be/nSg4HKHdDs4
החורף של הבינה המלאכותית
ג'פרי הינטון (Geoffrey Hinton) הוא ממדעני המחשב החשובים בהיסטוריה ומי שמכונה "הסנדק של הבינה המלאכותית".
נולד בלונדון בשנת 1947, הינטון הוא חוליה נוספת בשושלת אינטלקטואלית מרשימה הכוללת בעבר הרחוק את ג'ורג' בול (George Boole), הלוגיקן וממציא האלגברה הבוליאנית (Boolean Algebra), שפת האמת והשקר שעליה מתבסס כל מחשב בעולם.
אשתו של בול, מרי אוורסט בול (Mary Everest Boole), הייתה גם היא מתמטיקאית. הדוד שלה ג'ורג' אוורסט (George Everest) הוא שמדד את ההר הגבוה בעולם וזכה שהאוורסט ייקרא על שמו. דודניתו ג'ואן הינטון (Joan Hinton) למדה פיזיקה אצל אנריקו פרמי ועבדה בפרויקט מנהטן כש שואחרי הפצצת הירושימה עזבה את התחום.
הוא עצמו למד פסיכולוגיה ניסויית באוניברסיטת קיימברידג' (Cambridge) והשלים את הדוקטורט בבינה מלאכותית (Artificial Intelligence) באוניברסיטת אדינבורו.
בחייו האישיים נפגע עמוד השדרה שלו בגיל 19, כשעזר לאמו לסחוב תנור. מאז הוא אינו יכול לשבת זמן ממושך. לכן עבודתו נעשית בעמידה ובנסיעות ברכב הוא שוכב על המושב האחורי. על כל הכאבים הללו נוסף גם האובדן הטרגי של מי ששתי נשותיו הראשונות מתו כל אחת בזמנה מסוג אחר של סרטן.
כמו אלפרד נובל וממציא הגז ששימש ללוחמה כימית, נראה שגם הינטון, בתור מי שנתן למחשבים מוח ולימד אותם לחשוב, מתחרט ומצטער מעט. החששות שלו, בשל הסיכונים האפשריים שהוא מזהה בבינה המלאכותית, מגיעים עד לחשש מהכחדת האנושות.
#כיצד הגיע לכך בדרכו המדעית וטכנולוגית
הממציא שיצר את החשיבה הממוחשבת ומי שרבים רואים בו את המוח החשוב ביותר בבינה מלאכותית, הוא מהדמויות הבולטות בפיתוח תחום הלמידה העמוקה (Deep Learning).
הינטון הוא מחלוצי המדענים שפיתחו רשתות עצביות המחקות את פעולת המוח האנושי, רשתות מבוססות נוירונים מלאכותיים שמייצגים קשרים בין יחידות חישוביות ושבדומה לסינפסות במוח משפיע כל אחד מהם על השני. בתהליך אימון של רשתות כאלה מתבססים על חיזוק הקשרים בין הנוירונים המלאכותיים, פעולה דומה לחיזוק הקשרים שנעשים במוח בזמן הלמידה.
באמצעות השיטה שהמציא הינטון הצליחה רשת עצבית לראשונה לזהות וללמוד מאפיינים שונים בנתונים. זו עתידה להיות הטכנולוגיה שתעמוד בבסיס היכולת של מערכות לזהות תמונה, לתרגם שפות ולשוחח עם בני אדם שיחות “שקולות”.
כבר בשנות ה-80 הוא הניח עם שותפו ג'ון הופפילד את היסודות לרשתות עצביות מלאכותיות, מערכות מתמטיות שיפעלו בהשראת המוח האנושי.
ב-1985 הינטון ושותפיו מפתחים את "מכונת בולצמן" (Boltzmann Machine), מודל למידה שאימץ כלים מהפיזיקה הסטטיסטית ואפשר זיהוי מאפיינים ולמידה אוטומטית. זה המודל שיהפוך לבסיס טכנולוגיות הבינה המלאכותית המודרניות, כולל יישומים כמו ChatGPT וה-GenAI.
ב-2012, עם הסטודנטים שלו אלכס קריז'בסקי ואיליה סוצקבר הוא פיתח את רשת AlexNet שניצחה בתחרות זיהוי תמונות בפער, סימנה את עידן הלמידה העמוקה והייתה למפץ הגדול שיניע את מהפכת הבינה המלאכותית.
הוא מי שלימד את מייסדי OpenAI ו-DeepMind, בדגש על איליה סוצקבר שהוא הנחה לדוקטורט ויהיה לאחד ממייסדי OpenAI, החברה שתתחיל את התחרות המטורפת בפיתוח AI, בין גוגל, מטא, OpenAI ושאר ענקיות הטכנולוגיה בעולם.
לאחר שכיהן כעשור כסגן נשיא בחברת גוגל (Google) והוביל את מחקרי החברה בתחום הבינה המלאכותית, עוזב הינטון ב-2023 את החברה, כדי להזהיר באופן חופשי מפני הסכנות של הטכנולוגיה שבנה. "כל עוד גוגל משלמת לי," הוא אומר, "איני יכול לדבר על כך." הוא אומר ויוצר גל של כותרות בתקשורת. מאז הוא מבהיר שוב ושוב שהטכנולוגיה שהיה מבוראיה מסוכנת לגורל האנושות ואף עלולה גם לחסלה.
בשנת 2024 הינטון זוכה ביחד עם ג'ון הופפילד (John Hopfield) בפרס נובל לפיזיקה וממשיך להזהיר את כולנו.
ואגב, בהמשך לאזהרותיו פרסמה גם קבוצת מומחי בינה מלאכותית נוספים מחקר בשם AI2027 שחוזה כי בשנת 2027 ה-AI ישתבש או ייצא משליטה ויוביל להכחדת האנושות בתוך עשור.
אפשר להכיר את הנושא בתגית "רשתות נוירונים".
הנה ג'ף הינטון:
https://youtu.be/l9RWTMNnvi4
תחזית מדעית AI2027 שמנבאת בדיוק את מה שהינטון מזהיר ממנו:
https://youtu.be/1UufaK3pQMg
ראיון בתכנית 60 דקות שגם בו הוא מזהיר מסכנות הבינה המלאכותית:
https://youtu.be/qrvK_KuIeJk?long=yes
וסיפורו של הילד שנכשל בבית ספר והפך לגאון עולמי פורץ דרך:
https://youtu.be/zaFnUBuLS0E?long=yes
רשתות נוירונים (Neural Networks) הן רשתות מחשבים מתקדמות שמחקות את החשיבה האנושית.
בשנות ה-40 של המאה ה-20 ישב נוירולוג בשם וורן מקאלוך (Warren McCulloch) לצד נער-פלא בשם וולטר פיטס (Walter Pitts) ושאל שאלה שנשמעה אז כמעט מגוחכת: מה אם נוכל לתאר את תאי העצב של המוח בשפת מתמטיקה?
פיטס, שגדל בדטרויט במשפחה קשה, ברח בגיל 12 מבריונים של השכונה לספרייה הציבורית. שם נתקל בספר הפילוסופי המסורבל "פרינציפיה מתמטיקה" (Principia Mathematica) של ברטרנד ראסל (Bertrand Russell) וסיים לקרוא את שלושת כרכיו תוך שלושה ימים.
פיטס מצא בספר הנודע טעויות, כתב על כך לראסל, ראסל הזמין אותו ללמוד בקיימברידג', אך פיטס בן ה-12 סירב בנימוס. כשהיה בן 15 ושמע שראסל מגיע לאוניברסיטת שיקגו, הוא ברח מהבית באמצע הלילה ולא שב למשפחתו יותר.
ב-1943 פרסמו מקאלוך ופיטס מאמר שהפך לאחד החשובים בתולדות המדע. במאמר הם הראו שאפשר לדגם נוירון ביולוגי כיחידה לוגית פשוטה המקבלת קלטים ומוציאה פלט. זה היה המודל הממוחשב הראשון של תא עצב.
שנים אחדות אחר כך הציע הפסיכולוג הקנדי דונלד הב (Donald Hebb) תובנה שנשמעת פשוטה אך שינתה את הכל: ככל שנוירון אחד מפעיל נוירון אחר שוב ושוב, הקשר ביניהם מתחזק. זהו בדיוק עיקרון הלמידה ו"כלל הב" (Hebb's Rule) מנחה עד היום כיצד מכונות לומדות.
ב-1958 בנה פרנק רוזנבלט (Frank Rosenblatt) את ה"פרספטרון" (Perceptron), מכונה שסיווגה תמונות פשוטות. רוזנבלט הבטיח שהיא תדע בהצשך גם לדבר ולתרגם שפות.
העיתונות התלהבה מהרעיונות של רוזנבלט, אך כעשור לאחר מכן הוכיח המתמטיקאי מרווין מינסקי (Marvin Minsky) שלפרספטרון יש מגבלות קשות, מה שהביא לכך שהתחום קפא, למשל שנות קיפאון שיוודעו בשם "חורף הבינה המלאכותית" (AI Winter).
הפריצה הגדולה הגיעה ב-1986, כשג'פרי הינטון (Geoffrey Hinton) ועמיתיו פרסמו מאמר שהנגיש את אלגוריתם ה"התפשטות לאחור" (Backpropagation). זו הייתה שיטה שאיפשרה לרשת בעלת שכבות מרובות ללמוד מטעויותיה. הינטון, יאן לקון (Yann LeCun) ויושואה בנג'יו (Yoshua Bengio) קיבלו יחד את פרס טיורינג ב-2018 ומכונים מאז "סנדקי הלמידה העמוקה" (Godfathers of Deep Learning).
ב-2024 קיבל הינטון את פרס נובל בפיזיקה, יחד עם ג'ון הופילד (John Hopfield), על עבודה שהתחילה כניסוי אקדמי צנוע. כשביקש ממנו כתב של הניו-יורק טיימס להסביר את המכונה שלו במשפטים פשוטים, הינטון ענה בחיוך: "אם יכולתי להסביר את זה תוך כמה דקות, זה לא היה שווה פרס נובל."
מה שמאחד את כל החוקרים שפיתחו את רשתות הנוירונים הממוחשבות הוא דבר אחד וברור: הם לא המציאו אינטליגנציה מאפס, אלא הביטו על המוח, על תאי העצב ועל הדרך שבה בני אדם לומדים ושאלו כיצד אפשר לחקות את זה. הטבע היה המהנדס הראשון ןבכך כנראה שהם רק עזרו, עזרה אדירה אמנם, לפתח את רשתות הנוירונים של עולם ה-AI.
המלצה:
======
קראו באאוריקה בתגית "גוף האדם" על עוד מערכות בגוף ונסו להעלות רעיונות לעוד פיתוחים טכנולוגיים שיפתרו בעיות בעולם באמצעות חיקוי של פתרונות שבמערכות גופנו.
הנה הינטון:
https://youtu.be/l9RWTMNnvi4
ראיון בתכנית 60 דקות:
https://youtu.be/qrvK_KuIeJk
הנה התהליך הכימי של מעבר המידע בין הנוירונים במוח (מתורגם):
https://youtu.be/6Ra3il45vnE
רשתות הנוירונים הממוחשבות (מתורגם):
https://youtu.be/JrXazCEACVo
הסבר מדעי (מתורגם):
https://youtu.be/Z6xDuPOgT_Q
והפיתוח שלהם על ידי למידה מהביולוגיה והטבע:
https://youtu.be/JqMpGrM5ECo
