» «
למידה עמוקה
מהי למידה עמוקה?



בין שנות ה-70 לאמצע שנות ה-2000, רווחה אכזבה מאד גדולה מהביצועים של תחום הבינה המלאכותית. התחום שפעם הבטיח מהפכה של ממש בעולם המחשוב, "לא סיפק אז את הסחורה". התקופה הזו כונתה אז "החורף של הבינה המלאכותית".

אבל בשלב מסוים, אחרי השנים הרבות של האכזבה, הפציעה הבינה המלאכותית מחדש, כשהפעם היא החלה לממש סוף כל סוף את ההבטחה ההיא מימי התום שלה. מה שהזניק אותה מחדש הייתה טכנולוגיה חזקה ומעשית - "למידה עמוקה".

הלמידה העמוקה (Deep Learning) היא תחום מחקר בעולם המחשבים שמטרתו לחקות באופן ממוחשב את פעולת המוח האנושי. התחום הוא מרכזי בעולם האינטליגנציה המלאכותית. המיוחד במערכות למידה עמוקה הוא היכולת שלהן ללמוד ולהשתפר כל הזמן. זו למידה שפועלת ממש כמו המוח האנושי - ככל שמערכת כזו פועלת וככל שמשתמשים בה - היא משתפרת ו"יודעת" יותר.

הלמידה העמוקה הוא תחום חדש יחסית בעולם של חקר המערכות הלומדות. הוא נקרא גם "הלמידה החישובית" (Machine Learning). לטווח רחוק מטרת התחום היא פיתוח של מחשב שיוכל להחליף את החשיבה האנושית. מערכת כזו תהיה מסוגלת לזהות תבניות ודפוסים בדיבור, תמונות, צלילים ועוד סוגי מידע, שהמערכות מתקשות כיום לעבד ולטפל בהם.

חשיבה עמוקה היא רק בתחילתה, אבל חוקרים נעזרו בה כבר לזיהוי מולקולות שייקשרו למטרות בגוף טוב יותר ומסתייעים בממצאים לפיתוח תרופות חדשות. מחשב או תוכנה שמצוידים ב"חשיבה עמוקה" מבינים כבר היום שפה אנושית במנועי חיפוש, בחיפוש קולי ובעוזרים דיגיטליים כמו "סירי" של חברת אפל ו"קורטנה" של מיקרוסופט. בעתיד יסיקו מערכות כאלה גם מסקנות ויקבלו החלטות בכוחות עצמן.

העתיד מבטיח מפיתוחים אלה מערכות רפואיות שמטפלות בחולים, אנליסטים ומומחים ממוחשבים לניהול כספים ומסחר במניות ועד למערכות ראיה ממוחשבת, שיוכלו לזהות עצמים במרחב ולסווג אותם, ללא צורך בהתערבות אנושית.

הלמידה העמוקה מתבצעת על ידי שימוש ברשתות נוירונים, שמנסות לחקות את היכולת האנושית.


המלצה:
======
קראו באאוריקה בתגית "Google Brain", על אחד מפרויקטי הבינה המלאכותית הגדולים ביותר אי פעם.


הנה טכנולוגיית הלמידה העמוקה והעתיד שהיא מסמנת, כולל הסכנות האפשריות:

http://youtu.be/IoP9akd44wk


כך עובדים על פיתוח המוח העמוק:

http://youtu.be/zLp-edwiGUU


הדגמה ויזואלית של עץ ההחלטות הגדל ומתפתח של מערכת חכמה:

http://youtu.be/nSg4HKHdDs4
ניסוי החתולים
מהו ניסוי החתולים של גוגל?



כשרוצים ללגלג על יוטיוב והרשת, תמיד מדברים על סרטונים טפשיים של חתולים. אבל האמת היא שניתן לעשות באמצעותם לא מעט. בשנת 2012 הצליחה חברת גוגל להוכיח את היכולת של מערכת הלמידה העמוקה שלה באופן משמעותי. לאחר שהוכיחה שצפייה ב-10 מיליון תמונות מסרטוני יוטיוב, הביאה אותה ליכולת טובה פי שניים מניסיונות קודמים בזיהוי עצמים כמו חתולים בתמונות.

בכך הצליחה לראשונה תוכנה חכמה לחבר באופן לוגי בין תמונה למילה. היכולת לזהות באופן עצמאי את הקשר בין המידע הויזואלי למילה חתול הוא שלב מרשים בצעידה לכיוון של הבינה המלאכותית והלמידה העמוקה. במדעי המוח מזוהה שלב זה עם שלב דומה בלמידה של התינוק. בשלבי הלמידה הראשונים שלו הוא לומד לזהות עצמים עם מילים שלמד מהוריו.


הנה תיאור הניסוי של הלמידה העמוקה בגוגל לזהות חתולים בסרטונים:

https://youtu.be/TK4qLwTye_s


והנה לגלוג מסוים על העובדה שהמוח של גוגל יהפוך בסוף לטיפש מעודף צפייה בסרטוני חתולים:

https://youtu.be/lWijWH8VnlA


והרצאת טד עם ראייה חכמה וההתקדמות המדהימה שלה (מתורגם):

https://youtu.be/40riCqvRoMs?long=yes
Google Brain
מהי מערכת הלמידה העמוקה של גוגל?



למידת מכונה היא תחום שנחקר כבר עשרות שנים. בשנים האחרונות הוא הולך ומתפתח לכיוון של למידה עמוקה. מערכת הלמידה העמוקה הגדולה והמתקדמת בעולם כיום היא ה-Google Brain. זהו אחד מפרויקטי הבינה המלאכותית הגדולים בעולם. הפרויקט מנסה לפתח מוח ממוחשב מ-16,000 ליבות מחשבים ותוכנת מחשב שלומדת מתוך דוגמאות ומסיקה מסקנות בעצמה, תוך כדי התמודדות עם בעיות מורכבות במיוחד. משאבי המחשב שמוקדשים לפיתוח זה הם עצומים וכך גם התקציבים שחברת הענק משקיעה במחקר והפיתוח, כולל גיוס האנשים המתקדמים בעולם בתחום זה ושל המדען והעתידן הגאון ריי קורצווייל, שהסכים לעמוד בראש הפרויקט.

אבל למה גוגל צריכה מערכת למידה עמוקה? - היות ופיתוח של רשתות מחשב מבוססות נוירונים עולה המון כסף, חברת גוגל בעלת המיליארדים היא מהיחידות בעולם שיכולות להקצות משאבים לנושא. לרשת שמאפשרת את הלמידה של המחשב העמוק מוקצים עוד ועוד מחשבים. רק כך ניתן לדמות את אופן הפעולה של המוח האנושי.

וזה עוד כלום. ברצונם להגיע למאה טריליון קישורים בין נוירונים במחשב העל של גוגל, מגייסת החברה את מיטב חידושי הטכנולוגיה שיוצאים לשוק, כולל מעבדים מקביליים ומהירים ביותר, כרטיסי מסך גרפיים המכונים "GPU" ושפותחו עבור תעשיית המשחקים, ועד רכיבי מחשוב קוונטי. גוגל כה רצינית בשאיפות שלה בתחום זה, שהיא רוכשת חברות קטנות שעוסקות בתחום וכך קונה הן את הטכנולוגיות והידע שהן צברו והן את כוח האדם המעולה שלהן.


המלצה:
======
בתגית "למידה עמוקה" תוכלו לקרוא על עולם הבינה המלאכותית, המתבססת על רשת נוירונים כמו זו שבונה גוגל. שווה לקרוא גם בתגית "רשתות נוירונים".


הנה למידת המכונה:

https://youtu.be/59bMh59JQDo


כך מתבצעים פרויקטי הבינה המלאכותית הגדולים של גוגל ומתחרותיה:

https://youtu.be/gB_-LabED68


כך מסייעים מוחות טכנולוגיים עם למידה עמוקה לעולם להתקדם:

https://youtu.be/Dy0hJWltsyE


והנה סרטון עם מתיחה שבה גוגל הולכים להחליף את המוח האנושי:

https://youtu.be/fV52J7_7gss


הנה פרוייקט הגוגל בוקס והבעיות שהוא עורר:

https://youtu.be/5_EyoyHLnLI
רשת סמנטית
מהן רשתות סמנטיות?



רשתות סמנטיות (Semantic networks) הן שיטה להכנת מפות מידע, שבה מסומנים ומוגדרים הקשרים בין המושגים השונים. רשת סמנטית מיועדת למיפוי לפי משמעות ועל פי הקשרים בין מרכיבים שונים בה (מיפוי סמנטי). שימוש ברשת מושגית מתקדמת שכזו יכול לסייע בתהליכי חשיבה, סיעור מוחין וקבלת החלטות.

המידע ברשת סמנטית מאורגן לפי מושגים שמיוצגים במילה או במשפט ומקושרים למושג מרכזי. נכנה את המושגים "צמתים". בין כל צומת לאחרות יש קשרים, שהם בעצם קשרים אל המושגים הקרובים אליה משמעותית. רשת כזו ניתן לבנות לדוגמה סביב המושג המרכזי "אריה". קשרים יחברו בינו לבין מושגים קרובים כמו: טורפים, יונקים, חתולים גדולים, חיות פרא, אוכל בשר, אפריקה וכדומה. לכל קשר יהיה את התפקיד והמשמעות שלו וצבעים שונים יכולים לבטא את סוג הקשר בין מושגים.

שרטוט רשתות סמנטיות מאפשר תהליך למידה. זה קורה בשילוב שאנו עושים בין הדברים הידועים לנו בטרם הלמידה, לבין הדברים שנלמד תוך כדי השילוב של ידע חדש ברשת הסמנטית. קשרים שלא נדע להסביר את טיבם ומושגים ללא קשרים ביניהם יצביעו על מה שדורש למידה נוספת ומעמיקה יותר. בהנחה שחקר ולמידה כאלו אכן יבוצעו ויקרו, ההבנה של המושגים והקשרים שביניהם היא הלמידה.

בשנים האחרונות הפך נושא הרשת הסמנטית לתחום חם גם בעולם הטכנולוגיה. זאת לאחר שהסתבר שרשת כזו יכולה להוות בסיס למערכות בינה מלאכותית ולשיפור רשת האינטנרט ומנועי החיפוש. המחקר המדעי בעולם עוסק לא מעט במיפוי סמנטי לצורכי המיחשוב ובמקביל התפתח חזון הווב הסמנטי, שמציג רשת עתידית, מבוססת משמעות ובעלת יכולות רבות לשיפור האינטרנט (קראו עליה באאוריקה בתגית "ווב סמנטי").


משימת התנסות
===========
הכינו רשת סמנטית על המושג "מחשב", בכתיבת המושג, המושגים הקרובים והמושגים שנובעים מהם ויצירת הקשרים ביניהם על גבי נייר.


הנה הרשת הסמנטית:

https://youtu.be/3wMfKTkYemY

מערכות לומדות

רשת עצבית מלאכותית
מהן רשתות נוירונים ממוחשבות?



רשתות נוירונים (Neural Networks) הן רשתות מחשבים מתקדמות שמחקות את החשיבה האנושית.

נוירון הוא תא עצב. רשת נוירונים היא "רשת עצבית" מלאכותית, שמעתיקה את הפעילות של שכבות תאי העצב בניאו-קורטקס, האזור שתופס את רוב המוח האנושי ושבו נעשית החשיבה שלנו. כל נוירון מחובר בסינפסות אל נוירונים נוספים, במה שקרוי "רשת נוירונית". התקשורת בין הנוירונים היא באמצעות "פוטנציאלי פעולה" - מעין הבזקים, פעימות חשמליות, שעוברות בסינפסות בין נוירון, תא עצב, למשנהו והלאה אל הנוירון הבא ולאלה שאחריו.

מחקר רשתות הנוירונים עוסק בבניית מודלים וירטואליים של שכבות תאי העצב ובתחום זה עוסקים כיום צוותים מגוונים, שמורכבים ממדעני מוח, מדעני מחשב ותוכנה. רשתות מחשבים כאלה יוכלו בעתיד לבצע פעולות שהמוח יודע לבצע בקלות: לאסוף מידע, לנתחו ולהגיב לו בקבלת החלטות שאנו עושים אלפי פעמים ביום.

תחום הנוירו-מחשוב הוא אחד התחומים החשובים בעולם כיום. הוא יוביל בעתיד לדור מתקדם במיוחד של תוכנות חכמות. כבר היום רואים את האפשרויות של תוכנות-מוח שכאלה - מאפליקציות שלומדות את טעמנו האישי ומציעות לנו בגדים, אוכל, מוסיקה או ספרים שאנו אוהבים. בעתיד יותר ויותר טלפונים חכמים ילמדו הרגלים, תחביבים, העדפות וצרכים של המשתמש ויסייעו לו.

גם ברפואה משפרות רשתות עצביות את היכולות ומציעות השפעות נפלאות על היכולת לאתר סרטן עור מוקדם, לגלות טיפולים תרופתיים חדשים למחלות ועוד.

דמיינו מצלמות חכמות, שיודעות לזהות פורץ או מבקר תמים בביתנו, מערכות מחשוב שיזהו האקרים לעומת משתמשים תמימים שטעו, בידוק בטחוני שיזהה מפגים או עבריינים ומערכות צבאיות שיוודאו שכוחותינו יזהו וישמידו את כוחות האויב ולא את כוחותינו.


המלצה:
======
קראו באאוריקה בתגית "למידה עמוקה", על פיתוח מערכות הבינה המלאכותית שמתבססות על רשתות הנוירונים.


הנה רשתות הנוירונים שבמוחנו:

https://youtu.be/Gf5QEzZ9F3w


הנה התהליך הכימי של מעבר המידע בין הנוירונים:

https://youtu.be/6Ra3il45vnE


כיום מפתחים רשת נוירונים שמחקה את יכולת הלמידה של תינוק:

http://youtu.be/VNNsN9IJkws


הנה הסבר מדעי:

https://youtu.be/Z6xDuPOgT_Q


הנה הדרך שבה רשתות נוירוניות פועלות:

https://youtu.be/h52wgSsm57g


והפיתוח שלהם על ידי למידה מהביולוגיה והטבע:

https://youtu.be/JqMpGrM5ECo
פרסונליזציה
למה טובה פרסונליזציה ברשת?



פרסונליזציה (Personalization) באתרי אינטרנט או באפליקציות, היא התאמה אישית של התוכן המוצג למשתמש, לתחומי העניין האישיים שלו ולמה שהוא מעדיף, מחפש ומתעניין.

החשיבות של הפרסונליזציה היא שלכל אדם יש תחומי עניין שונים במקצת, כך שאם יותאמו התכנים במיוחד לכל משתמש, קורא, או צרכן, הוא ייהנה מהם הרבה יותר ויבצע פעולות שישתלמו גם לשירות המקוון. זה יקרה משום שהתוכן שיותאם למשתמש יהיה יותר רלוונטי ובעל משמעות רבה יותר עבורו.

כך יוצא שפרסונליזציה היא טכנולוגיה משבשת, אחד הכלים הכי חזקים בדרך לשיבוש חיובי של שווקים שזקוקים לחידוש, דיסראפשן, או חדשנות. על ההמלצות של ספוטיפיי שמעתם? תרתי משמע...

באתרים רבים ניתן כיום למצוא רמות שונות של פרסונליזציה. דוגמאות לכך לא חסרות. הכי מוכרות הן תוצאות החיפוש של מנוע החיפוש של גוגל, שמותאמות לתחומי העניין של המחפש ולהיסטוריית החיפושים שלו. גוגל לומדת כל אחד מאיתנו ומתאימה לנו תוצאות חיפוש אישיות. אגב, באותה שיטה היא גם מתאימה לנו פרסומות - היא גם יודעת מה חיפשנו או במה עוסק דף האינטרנט שבו אנו מתעניינים כרגע וגם מכירה אותנו, על תחביבינו, תחומי העניין שלנו ומה אנחנו חולמים לקנות...

דוגמאות מוכרות נוספות הן למשל הצגת הפוסטים של פייסבוק למשתמשים. השירות החברתי הזה לא מציג את אותם פוסטים ותכנים לכלל המשתמשים, כמו בבלוג למשל, אלא בוחר פוסטים מתאימים ומותאמים לכל אחד ואחד. המטרה של פייסבוק היא להשאיר את המשתמשים כמה שיותר זמן ברשת החברתית שלה. הפרס שלה על השימוש המוגדל שלנו ברשת החברתית הוא הרבה לחיצות וצפיות בפרסומות ומידע שהיא צוברת עלינו ושווה הון - כך היא מרוויחה כסף והרבה.

עוד דוגמאות הן המלצות על ספרים ומוצרים שיעניינו את המשתמש בחנות המקוונת של אמזון. אלה ניתנות על פי הלימוד של תחומי העניין שלו, כפי שבאו לידי ביטוי בקניות קודמות ובעיון באתר. כשהם מוצגים כך אנו מתפתים לקנות יותר מאשר תכננו. התוצאה היא שורת רווח מוגדלת ועשרות מיליארדי דולרים יותר.

פרסונליזציה עובדת טוב לשביעות הרצון שלנו משירותים נוספים. כך גם ממליצים על סרטים בשירות של נטפליקס, שירות שאגב יש לו המון לאיפה להשתפר, כך ממליצים באפליקציית ספוטיפיי על שירים שהמשתמש עשוי לאהוב (ואכן אוהב!) וכדומה.

בשביל המשתמשים הפרסונליזציה עושה הרבה יותר מסתם המלצות טובות. אם נרצה להבין מדוע העיתונות המודפסת הולכת ונסגרת, כדאי להביט באפליקציה של גוגל ניוז. כשהיא מתאימה לנו הקוראים את החדשות המוגשות לנו מאתרי חדשות שונים, כך שנקבל את החדשות שבהם אנו מתעניינים, היא מבצעת פרסונליזציה. בעולם המהיר שבו אנו חיים, עם אינספור הסחות דעת וכל כך מעט זמן פנוי, ההתאמה שעושים שירותים כאלה היא הצלה לאדם העסוק. כך ורק כך יקבל מי שחובב פוליטיקה הרבה חדשות מהתחום הפוליטי ופחות רכילות, שאותה יקבלו מי שממש אוהבים רכילות ושונאים חדשות פוליטיות או חדשות מעולם הפלילים, שלא פעם אגב מצטלבות דרכיהן באופן מוזר...


הנה פרסונליזציית התוכן:

https://youtu.be/iZko_YquwjU


איש מכירות מסביר איך פרסונליזציה משמשת להגדלת המכירות (עברית):

https://youtu.be/3wYkgclinDM


גם בחינוך מחפשים את הפיצוח הפרסונלי להוראה (עברית):

https://youtu.be/08zPDkfRnJw


ברור שפרסונליזציה של התוכן היא כלי שיווקי מעולה:

https://youtu.be/U39SZCB_i9w


יש לה המון יתרונות והיבטים:

https://youtu.be/iFgnQ0Uwl1M


ואנשים בימינו התרגלו ומעדיפים טיפול אישי באתרים מסחריים, גם אם ברור להם שיש לו גם מטרות מסחריות:

https://youtu.be/fJT4xP1oZNE


אֵאוּרִיקַה - האנציקלופדיה של הסקרנות!

העולם הוא צבעוני ומופלא, אאוריקה כאן בשביל שתגלו אותו...

אלפי נושאים, תמונות וסרטונים, מפתיעים, מסקרנים וממוקדים.

ניתן לנווט בין הפריטים במגע, בעכבר, בגלגלת, או במקשי המקלדת

בואו לגלות, לחקור, ולקבל השראה!

אֵאוּרִיקַה - האנציקלופדיה של הסקרנות!

שלום,
נראה שכבר הכרתם את אאוריקה. בטח כבר גיליתם כאן דברים מדהימים, אולי כבר שאלתם שאלות וקיבלתם תשובות טובות.
נשמח לראות משהו מכם בספר האורחים שלנו: איזו מילה טובה, חוות דעת, עצה חכמה לשיפור או כל מה שיש לכם לספר לנו על אאוריקה, כפי שאתם חווים אותה.