» «

החורף של הבינה המלאכותית

למידה עמוקה
מה ההבדל בין למידת מכונה ללמידה עמוקה?



הלמידה העמוקה (Deep Learning) היא טכנולוגיה שמאפשרת למערכות מחשב לחקות את פעולת המוח האנושי ולבצע למידה עצמית, תוך שיפור מתמיד המאפשר למערכת להיות חכמה יותר ויותר כל הזמן.

אבל מה ההבדל בין למידה עמוקה ללמידת מכונה?

אז ראשית, מבחינת מיון - דיפ לרנינג, בעברית למידה עמוקה, הוא תת-תחום של למידת מכונה.

אבל בעוד שב"למידת מכונה" (Machine Learning) קלאסית הלימוד הוא מתוך דאטה שתויג ואורגן מראש לשם כך, על ידי מי שמאמן את המכונה, בעזרת מה שנקרא "דאטה מתויג" (Labeled data), "למידה עמוקה" (Deep Learning) לומדת בעצמה - עם דאטה כמותי, כלומר מידע רב ולא מאורגן. למשל המוני דוגמאות לא מזוהות או מסודרות דווקא הניתנות לתוכנת הלמידה העמוקה והיא מייצרת את הסיווג וה"הבנה" של הדפוסים והסדר, שמאפשרים לה בהדרגה "להבין" את הדאטה הזה ולהפוך אותו לתובנות וידע, שגם הולך ומשתפר כל הזמן, כמו ילד שכל הזמן לומד דברים חדשים ורוכש תובנות טובות יותר על המציאות והחוקים ששוררים בה.

אם למידת מכונה זו למידת בית ספר, ממישהו שמלמד אותך ומתרגל אותך בלמידה, למידה עמוקה היא הלימוד אחרי שעת הלימודים - בשכונה, מתוך התבוננות, סקרנות ועיבוד נתונים עצמי.

משום כך, ככל שמערכת למידה עמוקה פועלת וככל שהיא בשימוש - היא משתפרת, יודעת יותר ויכולה לבצע משימות מורכבות יותר ובהצלחה הולכת וגדלה.

אז ההבדל בין למידה עמוקה ללמידת מכונה הוא בסיסי. כדי ללמוד ולהשתפר למידת מכונה צריכה מומחה, שיאתר תכונות מסוימות שעל פיהן הוא מאמן את המכונה או התוכנה. עוד שבלמידה עמוקה, לעומת זאת, לא נדרשים בהכרח האימון והארגון, התיוג והסידור של המידע בכדי שהמכונה תלמד. פשוט מזינים אליה המוני מקרים, כמו תמונות לזיהוי או מידע לניתוח, ונותנים לתוכנה לאתר בהם מאפיינים, הבדלים, דפוסים וכדומה. כך היא תזהה בעתיד דברים בתמונות או המלצות לשימוש במידע וכדומה.

זה אולי גם קצת דומה לשני טיפוסי מורים. יש את המורים שמתעקשים להגיש לתלמידים את הידע "בכפית" ולהראות להם על מה להביט בלמידה, בעוד אחרים, נקרא להם "המלמדים העמוקים", נותנים לתלמידים לאתר את ההבדלים, להעלות השערות לגבי דפוסי מידע וחלוקה, להסיק מסקנות וכדומה.

אז כך, ממש כמו התלמידים אצל "המורה העמוק", תוכנת הלמידה העמוקה מקבלת בלמידה כזו המון "הזדמנויות" ללמוד בעצמה, במקום אימון, שמתבטא בהוראות ואימון הממחישים לתוכנה מה לחפש בדאטה, כדי להבחין בין המקרים.

זו, אגב, גם הביקורת של המדענים על השיטה הזו. הם גורסים שלא נדרש עוד ממדענים להבין בעיה כדי לפתור אותה, מה שמביא לרדידות ולפתרון בעיות בניסוי וטעייה טכנולוגיים, במקום באמצעות תיאוריות מעמיקות ובחינתן באופן מדעי.


הנה הסבר פשוט של הלמידה העמוקה:

https://youtu.be/6M5VXKLf4D4


למידה עמוקה מחייבת יותר זמן, יותר דאטה ויותר כוח מחשוב מלמידת מכונה:

https://youtu.be/-SgkLEuhfbg


כך הולך ומתפתח עץ ההחלטות המשתפר של מערכת הלמידה העמוקה:

http://youtu.be/nSg4HKHdDs4


שיעור וידאו קצר על שיטות הלמידה השונות (עברית):

https://youtu.be/Bqdn6e-nH18?long=yes


והרצאה אקדמית על למידה עמוקה (עברית):

https://youtu.be/z-aezi4W90o?long=yes
אלייזה
מה הייתה תוכנת השיחה אלייזה?



"אלייזה" (Eliza) הייתה תוכנת שיחה, צ'אטבוט, שנולדה בשנת 1966 וחיקתה שיחה עם פסיכולוג. אלייזה נכתבה על ידי ג'וזף וייצנבאום, מדען מחשב וחוקר מ-MIT, כסוג של פרודיה על טיפולים פסיכולוגיים ופסיכותרפיה, בשיטת קרל רוג'רס. שיטה זו נחשבה בשנות ה-60 להצלחה גדולה. וייצנבאום ואנשיו באוניברסיטת MIT שבבוסטון הופתעו אז לגלות שרבים הגיבו אל 'אלייזה' ממש כאילו הייתה מטפל אמיתי ולא תוכנת מחשב פשוטה.

למרות ששיחה עם אליזה מרגישה לא פעם כשיחה עם דובר אינטליגנטי והיא מגיבה ומתקשרת באופן שנראה הגיוני, בפועל אלייזה אינה חכמה. היא הייתה אז רק סימולציה לשיחה עם פסיכולוג ועל אף שרבים קיוו שהיא תבונית, טענת המפתח הייתה חד-משמעית - אלייזה אינה מצוידת בבינה מלאכותית של ממש!

הטריק של וייצנבאום ואנשי MIT שפיתחו אותה היה לגרום לתוכנה לזהות מילות מפתח בדברי המשוחח עמה ולהשתמש בהן בתשובותיה באופן מתוכנת. דוגמאות לזיהוי מילות מפתח בתחום הטיפולי ולשימוש בהן לקידום השיחה, לא חסרות. נניח שהדובר אמר לאלייזה שהוא עצוב, התוכנה הייתה מגלה את מילת המפתח "עצוב" ושואלת אותו בצ'אט "למה אתה חושב שאתה עצוב?". אם הוא אמר שהוא שמח אז התגובה יכולה להיות כמו "ואיך ההרגשה להיות שמח?"

על שאלות ללא מילות מפתח אלייזה נהגה לשאול אז "האם שאלה זו מעניינת אותך?" או "מה מעניין אותך בשאלה זו?".

כך הולכת ונוצרת נוצרת שיחה משעשעת שכמעט יכולה להביא למחשבה שמדובר במטפל מבין ונבון. בשנות המחקר התגלה שאנשים ייחסו למילים של אלייזה משמעות רבה והתייחסו אליה לא פעם באופן רגשי, ממש כמו אל פסיכולוג אנושי.

באותה תקופה היו שדיברו על יכולותיה של אלייזה כתוכנה חכמה, שאולי תוכל לעמוד ב"מבחן טיורינג" אפשרי. אבל היא לא עשתה זאת, כפי שהצהירו מראש המפתחים. בכל זאת נרשמה אז אכזבה ברורה מכך שאלייזה לא באמת התגלתה כבעלת בינה מלאכותית. מדובר היה בשנות ה-60, עידן שבו כל המחשוב מבוסס המסוף (מקלדת ומסך המתחברים למחשב מרכזי) היה חדשני מאד והציפיות היו גבוהות מהיכולות האמיתיות של עולם המחשבים. רק 15 שנה אחר כך יגיעו המחשבים האישיים, ועוד 30 שנה יעברו, בטרם יתחילו לפעול מנועי חיפוש כמו "אסק ג'יבס", שהתבססו על עיבוד שפה טבעית, כשלצידן פועלות גם תוכנות ומערכות עזרה ממוחשבות "חכמות" מהסוג של "קליפי", שצורף אז ל-Windows.

הכישלון של אלייזה, עד כמה שהוא היה צפוי, היה אחת הסיבות לפתיחתו של העידן שנקרא אז "החורף של הבינה המלאכותית", תקופה שתימשך עד אמצע שנות ה-2000 ותתאפיין באכזבה מהבטחת האינטליגנציה המלאכותית.

גם היום אלייזה מסוגלת לגרום לדוברים עימה לשכוח שהיא מכונה, במצב שנקרא "השעיית חוסר האמונה". את אלייזה ממשיכות כיום תוכנות הצ'אטבוט (Chatbot). מדובר בסוגים של סייענים חכמים שבאחרונה הולכים ותופסים את מקומם בחיינו. הם עשויים להפוך לדרך חדשה לחלוטין להשתמש באינטרנט. במיוחד מכיוון שאנשים מאמינים להן ובהן.

מקור השם "אלייזה" הוא בשמה של גיבורת "פיגמליון", המחזה הנודע של ג'ורג' ברנרד שו.


הנה סיפורן של השיחות עם תוכנת אלייזה ההיסטורית:

https://youtu.be/itYWwMJr1X4


שיחה עם תוכנה דמויית אלייזה על מחשב הקומודור:

https://youtu.be/4sngIh0YJtk


השיחות עם אלייזה:

https://youtu.be/CJWOOTMt4ko


מפגש בין צ'אטבוטים - בין העוזרת הווירטואלית של האייפון, סירי, לתוכנת אלייזה:

https://youtu.be/uTiLverShyc


וממשיכיה של אלייזה בעולם הצ'אטבוט:

http://youtu.be/iE9LtfQAYYU
למידה עמוקה
מהי למידה עמוקה?



הלמידה העמוקה (Deep Learning) היא תחום מחקר בעולם המחשבים וספציפית בתחום "למידת המכונה" שמניח שהמחשב יכול ללמוד וללמד את עצמו, ממש כמו המוח האנושי. מטרתו הברורה של התחום הזה היא ליצור חיקוי ממוחשב של פעולת המוח האנושי.

בין שנות ה-70 לאמצע שנות ה-2000, רווחה אכזבה מאד גדולה מהביצועים של תחום הבינה המלאכותית. התחום שפעם הבטיח מהפכה של ממש בעולם המחשוב, "לא סיפק את הסחורה". התקופה הזו כונתה אז "החורף של הבינה המלאכותית".

אבל בשלב מסוים, בשנות האלפיים ואחרי שנים רבות של האכזבה, הפציעה האינטליגנציה המלאכותית מחדש, כשהפעם היא החלה לממש סוף כל סוף את ההבטחה מימי התום שלה. מחשבים מהירים פי מיליון, כמויות מידע עצומות שהחל להציע האינטרנט ושנאגרו על כונני ענק זולים ונגישים - כל אלה הבשילו לטכנולוגיה חזקה ומעשית - "הלמידה העמוקה".

התחום הזה הוא תת-תחום בתוך תחום "למידת המכונה", שגם הוא עצמו, כמו שאומרים מקצועני תחום "למידת המכונה" (ML), מהווה תת-תחום מרכזי בעולם האינטליגנציה המלאכותית.

המיוחד במערכות למידה עמוקה הוא היכולת שלהן ללמוד ולהשתפר כל הזמן ודי בעצמן. מפתחי מערכות כאלה בונים בשבילה מעין "רשת סמנטית". זו מערכת שמחקה את המערכת הנוירונים שבמוח האנושי וכאמור פועלת ולומדת כמוהו - ככל שהיא פועלת וככל שמשתמשים בה - היא משתפרת ו"יודעת" יותר.

מדובר בתחום חדש יחסית בעולם של חקר המערכות הלומדות. הוא נקרא גם "הלמידה החישובית" (Machine Learning). לטווח רחוק מטרת התחום היא פיתוח של מחשב שיוכל להחליף את החשיבה האנושית.

מערכת כזו תהיה מסוגלת לזהות תבניות ודפוסים בדיבור, תמונות, צלילים ועוד סוגי מידע, שהמערכות מתקשות כיום לעבד ולטפל בהם.

חשיבה עמוקה היא רק בתחילתה, אבל חוקרים נעזרו בה כבר לזיהוי מולקולות שייקשרו למטרות בגוף טוב יותר ומסתייעים בממצאים לפיתוח תרופות חדשות. מחשב או תוכנה שמצוידים ב"חשיבה עמוקה" מבינים כבר היום שפה אנושית במנועי חיפוש, בחיפוש קולי ובעוזרים דיגיטליים כמו "סירי" של חברת אפל ו"קורטנה" של מיקרוסופט. בעתיד יסיקו מערכות כאלה גם מסקנות ויקבלו החלטות בכוחות עצמן.

העתיד מבטיח מפיתוחים אלה מערכות רפואיות שמטפלות בחולים, אנליסטים ומומחים ממוחשבים לניהול כספים ומסחר במניות ועד למערכות ראיה ממוחשבת, שיוכלו לזהות עצמים במרחב ולסווג אותם, ללא צורך בהתערבות אנושית.

באמצעות חיקוי היכולת האנושית ללמוד, מצליחות מערכות למידה עמוקה גם ליצור ציורים, מוסיקה, סרטונים וטקסטים,להמליץ ללקוחות על רכישות, לייצר קריינות מלאכותית, לזהות עצמים ופנים מדויקות בתמונות וסרטונים, לאבחן מחלות, להפיק רווחים ממניות, להלביש פנים של מפורסמים על סרטי וידאו ועוד שלל יישומים.


המלצה:
======
קראו באאוריקה בתגית "Google Brain", על אחד מפרויקטי הבינה המלאכותית הגדולים ביותר אי פעם.


הנה טכנולוגיית הלמידה העמוקה והעתיד שהיא מסמנת, כולל הסכנות האפשריות:

http://youtu.be/IoP9akd44wk


כך עובדים על פיתוח המוח העמוק:

http://youtu.be/zLp-edwiGUU


הדגמה ויזואלית של עץ ההחלטות הגדל ומתפתח של מערכת חכמה:

http://youtu.be/nSg4HKHdDs4


אֵאוּרִיקַה - האנציקלופדיה של הסקרנות!

העולם הוא צבעוני ומופלא, אאוריקה כאן בשביל שתגלו אותו...

אלפי נושאים, תמונות וסרטונים, מפתיעים, מסקרנים וממוקדים.

ניתן לנווט בין הפריטים במגע, בעכבר, בגלגלת, או במקשי המקלדת

בואו לגלות, לחקור, ולקבל השראה!

אֵאוּרִיקַה - האנציקלופדיה של הסקרנות!

שלום,
נראה שכבר הכרתם את אאוריקה. בטח כבר גיליתם כאן דברים מדהימים, אולי כבר שאלתם שאלות וקיבלתם תשובות טובות.
נשמח לראות משהו מכם בספר האורחים שלנו: איזו מילה טובה, חוות דעת, עצה חכמה לשיפור או כל מה שיש לכם לספר לנו על אאוריקה, כפי שאתם חווים אותה.