שלום,
נראה שכבר הכרתם את אאוריקה. בטח כבר גיליתם כאן דברים מדהימים, אולי כבר שאלתם שאלות וקיבלתם תשובות טובות.
נשמח לראות משהו מכם בספר האורחים שלנו: איזו מילה טובה, חוות דעת, עצה חכמה לשיפור או כל מה שיש לכם לספר לנו על אאוריקה, כפי שאתם חווים אותה.
»
«
מהן רשתות נוירונים ממוחשבות?
רשתות נוירונים (Neural Networks) הן רשתות מחשבים מתקדמות שמחקות את החשיבה האנושית.
נוירון במוח הוא תא עצב. זהו תא טיפש, ללא יכולת מרשימה בפני עצמו. את כוחו ויכולתו המדהימה לפתור בעיות מורכבות הוא קונה רק כשהוא שותף זעיר ברשת העצבית העצומה, שקוראים לה מוח.
למוח ולרשת נוירונים טכנולוגית שמחקה אותו יש את היכולת המדהימה לפתרון בעיות מורכבות. רשת נוירונים היא "רשת עצבית" מלאכותית, שמעתיקה את הפעילות של שכבות תאי העצב בניאו-קורטקס, האזור שתופס את רוב המוח האנושי.
בניאו קורטקס נעשית החשיבה שלנו. ב"רשת נוירונית" מחובר כל נוירון בסינפסות אל נוירונים נוספים. התקשורת בין הנוירונים היא באמצעות "פוטנציאלי פעולה" - מעין הבזקים, פעימות חשמליות, שעוברות בסינפסות בין נוירון, תא עצב, למשנהו והלאה אל הנוירון הבא ולאלה שאחריו.
מחקר רשתות הנוירונים עוסק בבניית מודלים וירטואליים של שכבות תאי העצב ובתחום זה עוסקים כיום צוותים מגוונים, שמורכבים ממדעני מוח, מדעני מחשב ותוכנה. רשתות מחשבים כאלה יוכלו בעתיד לבצע פעולות שהמוח יודע לבצע בקלות: לאסוף מידע, לנתחו ולהגיב לו בקבלת החלטות שאנו עושים אלפי פעמים ביום.
תחום הנוירו-מחשוב הוא אחד התחומים החשובים בעולם כיום. הוא יוביל בעתיד לדור מתקדם במיוחד של תוכנות חכמות. כבר היום רואים את האפשרויות של תוכנות-מוח שכאלה - מאפליקציות שלומדות את טעמנו האישי ומציעות לנו בגדים, אוכל, מוסיקה או ספרים שאנו אוהבים. בעתיד יותר ויותר טלפונים חכמים ילמדו הרגלים, תחביבים, העדפות וצרכים של המשתמש ויסייעו לו.
גם ברפואה משפרות רשתות עצביות את היכולות ומציעות השפעות נפלאות על היכולת לאתר סרטן עור מוקדם, לגלות טיפולים תרופתיים חדשים למחלות ועוד.
דמיינו מצלמות חכמות, שיודעות לזהות פורץ או מבקר תמים בביתנו, מערכות מחשוב שיזהו האקרים לעומת משתמשים תמימים שטעו, בידוק בטחוני שיזהה מפגים או עבריינים ומערכות צבאיות שיוודאו שכוחותינו יזהו וישמידו את כוחות האויב ולא את כוחותינו.
המלצה:
======
קראו באאוריקה בתגית "למידה עמוקה", על פיתוח מערכות הבינה המלאכותית שמתבססות על רשתות הנוירונים.
הנה רשתות הנוירונים הממוחשבות (מתורגם):
https://youtu.be/JrXazCEACVo
דרך לזהות בהן הפרעות נוירולוגיות (עברית):
https://youtu.be/Agrf1PPXSl8
רשתות הנוירונים שבמוחנו:
https://youtu.be/Gf5QEzZ9F3w
התהליך הכימי של מעבר המידע בין הנוירונים (מתורגם):
https://youtu.be/6Ra3il45vnE
כיום מפתחים רשת נוירונים שמחקה את יכולת הלמידה של תינוק:
http://youtu.be/VNNsN9IJkws
הסבר מדעי (מתורגם):
https://youtu.be/Z6xDuPOgT_Q
דרך שבה רשתות נוירוניות פועלות:
https://youtu.be/h52wgSsm57g
והפיתוח שלהם על ידי למידה מהביולוגיה והטבע:
https://youtu.be/JqMpGrM5ECo
מה ההבדל בין למידת מכונה ללמידה עמוקה?
הלמידה העמוקה (Deep Learning) היא טכנולוגיה שמאפשרת למערכות מחשב לחקות את פעולת המוח האנושי ולבצע למידה עצמית, תוך שיפור מתמיד המאפשר למערכת להיות חכמה יותר ויותר כל הזמן.
אבל מה ההבדל בין למידה עמוקה ללמידת מכונה?
אז ראשית, מבחינת מיון - דיפ לרנינג, בעברית למידה עמוקה, הוא תת-תחום של למידת מכונה.
אבל בעוד שב"למידת מכונה" (Machine Learning) קלאסית הלימוד הוא מתוך דאטה שתויג ואורגן מראש לשם כך, על ידי מי שמאמן את המכונה, בעזרת מה שנקרא "דאטה מתויג" (Labeled data), "למידה עמוקה" (Deep Learning) לומדת בעצמה - עם דאטה כמותי, כלומר מידע רב ולא מאורגן. למשל המוני דוגמאות לא מזוהות או מסודרות דווקא הניתנות לתוכנת הלמידה העמוקה והיא מייצרת את הסיווג וה"הבנה" של הדפוסים והסדר, שמאפשרים לה בהדרגה "להבין" את הדאטה הזה ולהפוך אותו לתובנות וידע, שגם הולך ומשתפר כל הזמן, כמו ילד שכל הזמן לומד דברים חדשים ורוכש תובנות טובות יותר על המציאות והחוקים ששוררים בה.
אם למידת מכונה זו למידת בית ספר, ממישהו שמלמד אותך ומתרגל אותך בלמידה, למידה עמוקה היא הלימוד אחרי שעת הלימודים - בשכונה, מתוך התבוננות, סקרנות ועיבוד נתונים עצמי.
משום כך, ככל שמערכת למידה עמוקה פועלת וככל שהיא בשימוש - היא משתפרת, יודעת יותר ויכולה לבצע משימות מורכבות יותר ובהצלחה הולכת וגדלה.
אז ההבדל בין למידה עמוקה ללמידת מכונה הוא בסיסי. כדי ללמוד ולהשתפר למידת מכונה צריכה מומחה, שיאתר תכונות מסוימות שעל פיהן הוא מאמן את המכונה או התוכנה. עוד שבלמידה עמוקה, לעומת זאת, לא נדרשים בהכרח האימון והארגון, התיוג והסידור של המידע בכדי שהמכונה תלמד. פשוט מזינים אליה המוני מקרים, כמו תמונות לזיהוי או מידע לניתוח, ונותנים לתוכנה לאתר בהם מאפיינים, הבדלים, דפוסים וכדומה. כך היא תזהה בעתיד דברים בתמונות או המלצות לשימוש במידע וכדומה.
זה אולי גם קצת דומה לשני טיפוסי מורים. יש את המורים שמתעקשים להגיש לתלמידים את הידע "בכפית" ולהראות להם על מה להביט בלמידה, בעוד אחרים, נקרא להם "המלמדים העמוקים", נותנים לתלמידים לאתר את ההבדלים, להעלות השערות לגבי דפוסי מידע וחלוקה, להסיק מסקנות וכדומה.
אז כך, ממש כמו התלמידים אצל "המורה העמוק", תוכנת הלמידה העמוקה מקבלת בלמידה כזו המון "הזדמנויות" ללמוד בעצמה, במקום אימון, שמתבטא בהוראות ואימון הממחישים לתוכנה מה לחפש בדאטה, כדי להבחין בין המקרים.
זו, אגב, גם הביקורת של המדענים על השיטה הזו. הם גורסים שלא נדרש עוד ממדענים להבין בעיה כדי לפתור אותה, מה שמביא לרדידות ולפתרון בעיות בניסוי וטעייה טכנולוגיים, במקום באמצעות תיאוריות מעמיקות ובחינתן באופן מדעי.
הנה הסבר פשוט של הלמידה העמוקה:
https://youtu.be/6M5VXKLf4D4
למידה עמוקה מחייבת יותר זמן, יותר דאטה ויותר כוח מחשוב מלמידת מכונה:
https://youtu.be/-SgkLEuhfbg
כך הולך ומתפתח עץ ההחלטות המשתפר של מערכת הלמידה העמוקה:
http://youtu.be/nSg4HKHdDs4
שיעור וידאו קצר על שיטות הלמידה השונות (עברית):
https://youtu.be/Bqdn6e-nH18?long=yes
והרצאה אקדמית על למידה עמוקה (עברית):
https://youtu.be/z-aezi4W90o?long=yes
איך מפתחים מוח מלאכותי?
אחד החלומות של מובילי עולם המחשבים והחוקרים בתחום הבינה המלאכותית הוא לבנות מוח מלאכותי. הכוונה היא כמובן למחשב העובד כמו מוח. רובם לוקחים השראה לבניית מחשב שכזה מהרשתות הביולוגיות של המוח האנושי. היכולת המדהימה של הרשתות הביולוגיות הללו שבמוחנו מכילות מיליארדי תאי עצב שמחווטים ביניהם, כל תא לאלפי תאי עצב שמסביבו. פעולה כמו פתיחת דלת היא פעולה מורכבת מאד בהשוואה לפתרון משוואות מתמטיות ואם ניתן יהיה לבנות מוח שמסוגל לחקות את המוח המנהל פעולות שכאלה, הוא יוכל לפתור משוואות ובעיות מורכבות במיוחד באופן מקבילי. הדבר אומר שמחשב מלאכותי שכזה יהיה המחשב החזק ביותר שנבנה אי-פעם ובעל יכולות שהמחשבים המשוכללים ביותר של היום אינם מתקרבים אליהן.
אחד הפיתוחים המתקדמים בעולם בתחום זה הוא "המוח הכחול", שבו מפתחים מדענים בהובלת מדעני האוניברסיטה העברית בירושלים מוח מלאכותי העובד כך.
אך יש גם חשש בצד הציפיה לפיתוח מדהים שכזה. מה למשל יקרה ביום שבו מוח מלאכותי שכזה יוכל לעצור אותנו בני האדם, מלעצור אותו? האם יוכל למשל לעשות מעשים רעים, שלא יהיו נתונים לעצירה?
זה הצד השני של הפיתוחים הללו, כי יש הרואים בפיתוח של מוח מלאכותי ברמה שכזו עניין מסוכן. הרי כשמלמדים מחשב ללמוד ומאפשרים לו לעשות זאת באופן חופשי ומיומן, עלול להיווצר מצב שבו הוא יגיע לרמה כה גבוהה, עד שהוא יאיים על קיומו של המין האנושי. דמיינו למשל מערכות תוכנה שיבצעו פשעים באינטרנט - מי יואשם בפשע כזה? או מערכת לוחמה חכמה שתבצע פשעים נגד האנושות, בשל פירוש שגוי של כוונת המפעילים, או מבחירה בעייתית לשמור על חיי החיילים בכל מחיר - מי ערב לנו שההיטלר של העתיד לא יהיה מוח מלאכותי ממוחשב שהחליט למחוק אומה, רק כי הוא יכול? ואת מי נעמיד לדין על פשעים כאלה אם מחשב כתב קוד, שכתב קוד, שכתב את התוכנה הפושעת?
הנה סיפורו של המוח הכחול שמפותח בישראל (עברית):
http://youtu.be/L0AR1cUlhTk
גם הסיכוי לייצר מוח מלאכותי בהנדסה גנטית הוא קטן (מתורגם):
https://youtu.be/s_LxZx42sIk
ותכנית טלוויזיה על מחקר המוח הישראלי (עברית):
http://youtu.be/E5yWCvjsXYk
מהי למידה עמוקה?
הלמידה העמוקה (Deep Learning) היא תחום מחקר בעולם המחשבים וספציפית בתחום "למידת המכונה" שמניח שהמחשב יכול ללמוד וללמד את עצמו, ממש כמו המוח האנושי. מטרתו הברורה של התחום הזה היא ליצור חיקוי ממוחשב של פעולת המוח האנושי.
בין שנות ה-70 לאמצע שנות ה-2000, רווחה אכזבה מאד גדולה מהביצועים של תחום הבינה המלאכותית. התחום שפעם הבטיח מהפכה של ממש בעולם המחשוב, "לא סיפק את הסחורה". התקופה הזו כונתה אז "החורף של הבינה המלאכותית".
אבל בשלב מסוים, בשנות האלפיים ואחרי שנים רבות של האכזבה, הפציעה האינטליגנציה המלאכותית מחדש, כשהפעם היא החלה לממש סוף כל סוף את ההבטחה מימי התום שלה. מחשבים מהירים פי מיליון, כמויות מידע עצומות שהחל להציע האינטרנט ושנאגרו על כונני ענק זולים ונגישים - כל אלה הבשילו לטכנולוגיה חזקה ומעשית - "הלמידה העמוקה".
התחום הזה הוא תת-תחום בתוך תחום "למידת המכונה", שגם הוא עצמו, כמו שאומרים מקצועני תחום "למידת המכונה" (ML), מהווה תת-תחום מרכזי בעולם האינטליגנציה המלאכותית.
המיוחד במערכות למידה עמוקה הוא היכולת שלהן ללמוד ולהשתפר כל הזמן ודי בעצמן. מפתחי מערכות כאלה בונים בשבילה מעין "רשת סמנטית". זו מערכת שמחקה את המערכת הנוירונים שבמוח האנושי וכאמור פועלת ולומדת כמוהו - ככל שהיא פועלת וככל שמשתמשים בה - היא משתפרת ו"יודעת" יותר.
מדובר בתחום חדש יחסית בעולם של חקר המערכות הלומדות. הוא נקרא גם "הלמידה החישובית" (Machine Learning). לטווח רחוק מטרת התחום היא פיתוח של מחשב שיוכל להחליף את החשיבה האנושית.
מערכת כזו תהיה מסוגלת לזהות תבניות ודפוסים בדיבור, תמונות, צלילים ועוד סוגי מידע, שהמערכות מתקשות כיום לעבד ולטפל בהם.
חשיבה עמוקה היא רק בתחילתה, אבל חוקרים נעזרו בה כבר לזיהוי מולקולות שייקשרו למטרות בגוף טוב יותר ומסתייעים בממצאים לפיתוח תרופות חדשות. מחשב או תוכנה שמצוידים ב"חשיבה עמוקה" מבינים כבר היום שפה אנושית במנועי חיפוש, בחיפוש קולי ובעוזרים דיגיטליים כמו "סירי" של חברת אפל ו"קורטנה" של מיקרוסופט. בעתיד יסיקו מערכות כאלה גם מסקנות ויקבלו החלטות בכוחות עצמן.
העתיד מבטיח מפיתוחים אלה מערכות רפואיות שמטפלות בחולים, אנליסטים ומומחים ממוחשבים לניהול כספים ומסחר במניות ועד למערכות ראיה ממוחשבת, שיוכלו לזהות עצמים במרחב ולסווג אותם, ללא צורך בהתערבות אנושית.
באמצעות חיקוי היכולת האנושית ללמוד, מצליחות מערכות למידה עמוקה גם ליצור ציורים, מוסיקה, סרטונים וטקסטים,להמליץ ללקוחות על רכישות, לייצר קריינות מלאכותית, לזהות עצמים ופנים מדויקות בתמונות וסרטונים, לאבחן מחלות, להפיק רווחים ממניות, להלביש פנים של מפורסמים על סרטי וידאו ועוד שלל יישומים.
המלצה:
======
קראו באאוריקה בתגית "Google Brain", על אחד מפרויקטי הבינה המלאכותית הגדולים ביותר אי פעם.
הנה טכנולוגיית הלמידה העמוקה והעתיד שהיא מסמנת, כולל הסכנות האפשריות:
http://youtu.be/IoP9akd44wk
כך עובדים על פיתוח המוח העמוק:
http://youtu.be/zLp-edwiGUU
הדגמה ויזואלית של עץ ההחלטות הגדל ומתפתח של מערכת חכמה:
http://youtu.be/nSg4HKHdDs4
מה יהיה הווב הסמנטי?
הווב הסמנטי (Semantic web) הוא חזון לבסיס נתונים שיפעל כרשת ויכיל את קשרי המשמעויות שבין מרכיביו. הרעיון הוא לשפר את רשת האינטרנט שאנו מכירים כ-WWW, לרשת שתכיל מידע על כל סוג של קובץ המצוי בה. המידע הזה יאפשר שימוש יעיל ומתקדם מאד בתכנים שברשת. כל פריט מידע ברשת כזו יהיה מתויג, כך שהוא יסייע לרשת לסייע למשתמשים לקבל מידע מתאים ואיכותי, כשהם יזדקקו לו. להוספת רכיבי המידע הנדרשים ליצירת רשת כזו ישתמשו בכלים כמו מטא-תגיות (META Tags) - תגיות-על שתפקידן לתאר את פריט המידע ונתוני-על (META data), שיתארו את הדפים והאתרים שברשת ויאפשרו לבסיס הנתונים "לדעת" עליהם דברים חשובים.
באופן מסוים אמורה לפעול הרשת הסמנטית הזו כמודל של המוח האנושי. הגולשים יידעו מראש לגבי אתרים איכותיים ומעניינים בשבילם ספציפית, כי הרשת הזו תדע מה הם אוהבים ובמה הם מתעניינים ויודעת לברור בשבילם את המתאים ביותר, מבין מה שהיא מכילה. בזכות "הידע על הידע" שיוסיף הווב הסמנטי, יוכלו הגולשים גם להימנע מאתרים גרועים, סתמיים או לא מתאימים להם וכדומה.
אבל רשת עתידית שכזו תכיל גם "סוכני תוכנה", תוכנות מתקדמות שיפעלו ברשת כזו ברקע ויבצעו בה פעולות של איסוף וניתוח נתונים ומגוון משימות מורכבות וקשות, שלרוב מבוצעות על ידי בני אדם. הסוכנים הממוחשבים הללו ימצאו ויאתרו כל הזמן קשרים ואסוציאציות בין פריטי המידע שנוספים אליה ויתייגו אותם. בצורה כזו ניתן יהיה להשתמש בהם בצורה חכמה. הנתונים ברשת כזו יוכלו להיות שימושיים ושיתופיים למגוון של צרכים, מתוכנות ועד לעסקים, מיזמים שונים.
את הרשת הסמנטית חזה ממציא רשת האינטרנט, טים ברנרס-לי. החזון שלו היה של רשת מידע שתאפשר למחשבים להבין את המשמעויות של הפרטים שהיא מכילה. הוא כתב עליה לראשונה בשנת 2001, ביחד עם עמיתיו, במאמר שפורסם במגזין "סיינטיפיק אמריקן".
בין הדוגמאות שנתן אז ברנרס-לי היו סוכנים ממחשבים שינהלו את לוח הפגישות של המשתמש, באופן שלוקח בחשבון נתונים ממקורות שונים וידע שקיים ברשת. הוצעו גם תוכנת דואר חכמה שעוד בזמן כתיבת מייל מודיעה על חברים שנתקלו בנושא, שיתופי פעולה עסקיים אפשריים ועוד.
הנה הווב הסמנטי:
https://youtu.be/OGg8A2zfWKg
מייסד ויקיפדיה מסביר את המושג כמו שהוא מבין אותו:
https://youtu.be/MY4s8uuHmy0
ומונולוג ארוך והאמת גם די משעמם של טים ברנרס לי על הווב הסמנטי:
https://youtu.be/HeUrEh-nqtU
מהי מערכת הלמידה העמוקה של גוגל?
למידת מכונה היא תחום שנחקר כבר עשרות שנים. בשנים האחרונות הוא הולך ומתפתח לכיוון של למידה עמוקה. מערכת הלמידה העמוקה הגדולה והמתקדמת בעולם כיום היא ה-Google Brain. זהו אחד מפרויקטי הבינה המלאכותית הגדולים בעולם. הפרויקט מנסה לפתח מוח ממוחשב מ-16,000 ליבות מחשבים ותוכנת מחשב שלומדת מתוך דוגמאות ומסיקה מסקנות בעצמה, תוך כדי התמודדות עם בעיות מורכבות במיוחד. משאבי המחשב שמוקדשים לפיתוח זה הם עצומים וכך גם התקציבים שחברת הענק משקיעה במחקר והפיתוח, כולל גיוס האנשים המתקדמים בעולם בתחום זה ושל המדען והעתידן הגאון ריי קורצווייל, שהסכים לעמוד בראש הפרויקט.
אבל למה גוגל צריכה מערכת למידה עמוקה? - היות ופיתוח של רשתות מחשב מבוססות נוירונים עולה המון כסף, חברת גוגל בעלת המיליארדים היא מהיחידות בעולם שיכולות להקצות משאבים לנושא. לרשת שמאפשרת את הלמידה של המחשב העמוק מוקצים עוד ועוד מחשבים. רק כך ניתן לדמות את אופן הפעולה של המוח האנושי.
וזה עוד כלום. ברצונם להגיע למאה טריליון קישורים בין נוירונים במחשב העל של גוגל, מגייסת החברה את מיטב חידושי הטכנולוגיה שיוצאים לשוק, כולל מעבדים מקביליים ומהירים ביותר, כרטיסי מסך גרפיים המכונים "GPU" ושפותחו עבור תעשיית המשחקים, ועד רכיבי מחשוב קוונטי. גוגל כה רצינית בשאיפות שלה בתחום זה, שהיא רוכשת חברות קטנות שעוסקות בתחום וכך קונה הן את הטכנולוגיות והידע שהן צברו והן את כוח האדם המעולה שלהן.
המלצה:
======
בתגית "למידה עמוקה" תוכלו לקרוא על עולם הבינה המלאכותית, המתבססת על רשת נוירונים כמו זו שבונה גוגל. שווה לקרוא גם בתגית "רשתות נוירונים".
הנה למידת המכונה:
https://youtu.be/59bMh59JQDo
כך מתבצעים פרויקטי הבינה המלאכותית הגדולים של גוגל ומתחרותיה:
https://youtu.be/gB_-LabED68
כך מסייעים מוחות טכנולוגיים עם למידה עמוקה לעולם להתקדם:
https://youtu.be/Dy0hJWltsyE
סרטון עם מתיחה שבה גוגל הולכים להחליף את המוח האנושי:
https://youtu.be/fV52J7_7gss
ופרוייקט הגוגל בוקס והבעיות שהוא עורר:
https://youtu.be/5_EyoyHLnLI
מהן רשתות סמנטיות?
רשתות סמנטיות (Semantic networks) הן שיטה להכנת מפות מידע, שבה מסומנים ומוגדרים הקשרים בין המושגים השונים. רשת סמנטית מיועדת למיפוי לפי משמעות ועל פי הקשרים בין מרכיבים שונים בה (מיפוי סמנטי). שימוש ברשת מושגית מתקדמת שכזו יכול לסייע בתהליכי חשיבה, סיעור מוחין וקבלת החלטות.
המידע ברשת סמנטית מאורגן לפי מושגים שמיוצגים במילה או במשפט ומקושרים למושג מרכזי. נכנה את המושגים "צמתים". בין כל צומת לאחרות יש קשרים, שהם בעצם קשרים אל המושגים הקרובים אליה משמעותית. רשת כזו ניתן לבנות לדוגמה סביב המושג המרכזי "אריה". קשרים יחברו בינו לבין מושגים קרובים כמו: טורפים, יונקים, חתולים גדולים, חיות פרא, אוכל בשר, אפריקה וכדומה. לכל קשר יהיה את התפקיד והמשמעות שלו וצבעים שונים יכולים לבטא את סוג הקשר בין מושגים.
שרטוט רשתות סמנטיות מאפשר תהליך למידה. זה קורה בשילוב שאנו עושים בין הדברים הידועים לנו בטרם הלמידה, לבין הדברים שנלמד תוך כדי השילוב של ידע חדש ברשת הסמנטית. קשרים שלא נדע להסביר את טיבם ומושגים ללא קשרים ביניהם יצביעו על מה שדורש למידה נוספת ומעמיקה יותר. בהנחה שחקר ולמידה כאלו אכן יבוצעו ויקרו, ההבנה של המושגים והקשרים שביניהם היא הלמידה.
בשנים האחרונות הפך נושא הרשת הסמנטית לתחום חם גם בעולם הטכנולוגיה. זאת לאחר שהסתבר שרשת כזו יכולה להוות בסיס למערכות בינה מלאכותית ולשיפור רשת האינטנרט ומנועי החיפוש. המחקר המדעי בעולם עוסק לא מעט במיפוי סמנטי לצורכי המיחשוב ובמקביל התפתח חזון הווב הסמנטי, שמציג רשת עתידית, מבוססת משמעות ובעלת יכולות רבות לשיפור האינטרנט (קראו עליה באאוריקה בתגית "ווב סמנטי").
משימת התנסות
===========
הכינו רשת סמנטית על המושג "מחשב", בכתיבת המושג, המושגים הקרובים והמושגים שנובעים מהם ויצירת הקשרים ביניהם על גבי נייר.
הנה הרשת הסמנטית:
https://youtu.be/3wMfKTkYemY
רשתות נוירונים (Neural Networks) הן רשתות מחשבים מתקדמות שמחקות את החשיבה האנושית.
נוירון במוח הוא תא עצב. זהו תא טיפש, ללא יכולת מרשימה בפני עצמו. את כוחו ויכולתו המדהימה לפתור בעיות מורכבות הוא קונה רק כשהוא שותף זעיר ברשת העצבית העצומה, שקוראים לה מוח.
למוח ולרשת נוירונים טכנולוגית שמחקה אותו יש את היכולת המדהימה לפתרון בעיות מורכבות. רשת נוירונים היא "רשת עצבית" מלאכותית, שמעתיקה את הפעילות של שכבות תאי העצב בניאו-קורטקס, האזור שתופס את רוב המוח האנושי.
בניאו קורטקס נעשית החשיבה שלנו. ב"רשת נוירונית" מחובר כל נוירון בסינפסות אל נוירונים נוספים. התקשורת בין הנוירונים היא באמצעות "פוטנציאלי פעולה" - מעין הבזקים, פעימות חשמליות, שעוברות בסינפסות בין נוירון, תא עצב, למשנהו והלאה אל הנוירון הבא ולאלה שאחריו.
מחקר רשתות הנוירונים עוסק בבניית מודלים וירטואליים של שכבות תאי העצב ובתחום זה עוסקים כיום צוותים מגוונים, שמורכבים ממדעני מוח, מדעני מחשב ותוכנה. רשתות מחשבים כאלה יוכלו בעתיד לבצע פעולות שהמוח יודע לבצע בקלות: לאסוף מידע, לנתחו ולהגיב לו בקבלת החלטות שאנו עושים אלפי פעמים ביום.
תחום הנוירו-מחשוב הוא אחד התחומים החשובים בעולם כיום. הוא יוביל בעתיד לדור מתקדם במיוחד של תוכנות חכמות. כבר היום רואים את האפשרויות של תוכנות-מוח שכאלה - מאפליקציות שלומדות את טעמנו האישי ומציעות לנו בגדים, אוכל, מוסיקה או ספרים שאנו אוהבים. בעתיד יותר ויותר טלפונים חכמים ילמדו הרגלים, תחביבים, העדפות וצרכים של המשתמש ויסייעו לו.
גם ברפואה משפרות רשתות עצביות את היכולות ומציעות השפעות נפלאות על היכולת לאתר סרטן עור מוקדם, לגלות טיפולים תרופתיים חדשים למחלות ועוד.
דמיינו מצלמות חכמות, שיודעות לזהות פורץ או מבקר תמים בביתנו, מערכות מחשוב שיזהו האקרים לעומת משתמשים תמימים שטעו, בידוק בטחוני שיזהה מפגים או עבריינים ומערכות צבאיות שיוודאו שכוחותינו יזהו וישמידו את כוחות האויב ולא את כוחותינו.
המלצה:
======
קראו באאוריקה בתגית "למידה עמוקה", על פיתוח מערכות הבינה המלאכותית שמתבססות על רשתות הנוירונים.
הנה רשתות הנוירונים הממוחשבות (מתורגם):
https://youtu.be/JrXazCEACVo
דרך לזהות בהן הפרעות נוירולוגיות (עברית):
https://youtu.be/Agrf1PPXSl8
רשתות הנוירונים שבמוחנו:
https://youtu.be/Gf5QEzZ9F3w
התהליך הכימי של מעבר המידע בין הנוירונים (מתורגם):
https://youtu.be/6Ra3il45vnE
כיום מפתחים רשת נוירונים שמחקה את יכולת הלמידה של תינוק:
http://youtu.be/VNNsN9IJkws
הסבר מדעי (מתורגם):
https://youtu.be/Z6xDuPOgT_Q
דרך שבה רשתות נוירוניות פועלות:
https://youtu.be/h52wgSsm57g
והפיתוח שלהם על ידי למידה מהביולוגיה והטבע:
https://youtu.be/JqMpGrM5ECo
הלמידה העמוקה (Deep Learning) היא טכנולוגיה שמאפשרת למערכות מחשב לחקות את פעולת המוח האנושי ולבצע למידה עצמית, תוך שיפור מתמיד המאפשר למערכת להיות חכמה יותר ויותר כל הזמן.
אבל מה ההבדל בין למידה עמוקה ללמידת מכונה?
אז ראשית, מבחינת מיון - דיפ לרנינג, בעברית למידה עמוקה, הוא תת-תחום של למידת מכונה.
אבל בעוד שב"למידת מכונה" (Machine Learning) קלאסית הלימוד הוא מתוך דאטה שתויג ואורגן מראש לשם כך, על ידי מי שמאמן את המכונה, בעזרת מה שנקרא "דאטה מתויג" (Labeled data), "למידה עמוקה" (Deep Learning) לומדת בעצמה - עם דאטה כמותי, כלומר מידע רב ולא מאורגן. למשל המוני דוגמאות לא מזוהות או מסודרות דווקא הניתנות לתוכנת הלמידה העמוקה והיא מייצרת את הסיווג וה"הבנה" של הדפוסים והסדר, שמאפשרים לה בהדרגה "להבין" את הדאטה הזה ולהפוך אותו לתובנות וידע, שגם הולך ומשתפר כל הזמן, כמו ילד שכל הזמן לומד דברים חדשים ורוכש תובנות טובות יותר על המציאות והחוקים ששוררים בה.
אם למידת מכונה זו למידת בית ספר, ממישהו שמלמד אותך ומתרגל אותך בלמידה, למידה עמוקה היא הלימוד אחרי שעת הלימודים - בשכונה, מתוך התבוננות, סקרנות ועיבוד נתונים עצמי.
משום כך, ככל שמערכת למידה עמוקה פועלת וככל שהיא בשימוש - היא משתפרת, יודעת יותר ויכולה לבצע משימות מורכבות יותר ובהצלחה הולכת וגדלה.
אז ההבדל בין למידה עמוקה ללמידת מכונה הוא בסיסי. כדי ללמוד ולהשתפר למידת מכונה צריכה מומחה, שיאתר תכונות מסוימות שעל פיהן הוא מאמן את המכונה או התוכנה. עוד שבלמידה עמוקה, לעומת זאת, לא נדרשים בהכרח האימון והארגון, התיוג והסידור של המידע בכדי שהמכונה תלמד. פשוט מזינים אליה המוני מקרים, כמו תמונות לזיהוי או מידע לניתוח, ונותנים לתוכנה לאתר בהם מאפיינים, הבדלים, דפוסים וכדומה. כך היא תזהה בעתיד דברים בתמונות או המלצות לשימוש במידע וכדומה.
זה אולי גם קצת דומה לשני טיפוסי מורים. יש את המורים שמתעקשים להגיש לתלמידים את הידע "בכפית" ולהראות להם על מה להביט בלמידה, בעוד אחרים, נקרא להם "המלמדים העמוקים", נותנים לתלמידים לאתר את ההבדלים, להעלות השערות לגבי דפוסי מידע וחלוקה, להסיק מסקנות וכדומה.
אז כך, ממש כמו התלמידים אצל "המורה העמוק", תוכנת הלמידה העמוקה מקבלת בלמידה כזו המון "הזדמנויות" ללמוד בעצמה, במקום אימון, שמתבטא בהוראות ואימון הממחישים לתוכנה מה לחפש בדאטה, כדי להבחין בין המקרים.
זו, אגב, גם הביקורת של המדענים על השיטה הזו. הם גורסים שלא נדרש עוד ממדענים להבין בעיה כדי לפתור אותה, מה שמביא לרדידות ולפתרון בעיות בניסוי וטעייה טכנולוגיים, במקום באמצעות תיאוריות מעמיקות ובחינתן באופן מדעי.
הנה הסבר פשוט של הלמידה העמוקה:
https://youtu.be/6M5VXKLf4D4
למידה עמוקה מחייבת יותר זמן, יותר דאטה ויותר כוח מחשוב מלמידת מכונה:
https://youtu.be/-SgkLEuhfbg
כך הולך ומתפתח עץ ההחלטות המשתפר של מערכת הלמידה העמוקה:
http://youtu.be/nSg4HKHdDs4
שיעור וידאו קצר על שיטות הלמידה השונות (עברית):
https://youtu.be/Bqdn6e-nH18?long=yes
והרצאה אקדמית על למידה עמוקה (עברית):
https://youtu.be/z-aezi4W90o?long=yes
אחד החלומות של מובילי עולם המחשבים והחוקרים בתחום הבינה המלאכותית הוא לבנות מוח מלאכותי. הכוונה היא כמובן למחשב העובד כמו מוח. רובם לוקחים השראה לבניית מחשב שכזה מהרשתות הביולוגיות של המוח האנושי. היכולת המדהימה של הרשתות הביולוגיות הללו שבמוחנו מכילות מיליארדי תאי עצב שמחווטים ביניהם, כל תא לאלפי תאי עצב שמסביבו. פעולה כמו פתיחת דלת היא פעולה מורכבת מאד בהשוואה לפתרון משוואות מתמטיות ואם ניתן יהיה לבנות מוח שמסוגל לחקות את המוח המנהל פעולות שכאלה, הוא יוכל לפתור משוואות ובעיות מורכבות במיוחד באופן מקבילי. הדבר אומר שמחשב מלאכותי שכזה יהיה המחשב החזק ביותר שנבנה אי-פעם ובעל יכולות שהמחשבים המשוכללים ביותר של היום אינם מתקרבים אליהן.
אחד הפיתוחים המתקדמים בעולם בתחום זה הוא "המוח הכחול", שבו מפתחים מדענים בהובלת מדעני האוניברסיטה העברית בירושלים מוח מלאכותי העובד כך.
אך יש גם חשש בצד הציפיה לפיתוח מדהים שכזה. מה למשל יקרה ביום שבו מוח מלאכותי שכזה יוכל לעצור אותנו בני האדם, מלעצור אותו? האם יוכל למשל לעשות מעשים רעים, שלא יהיו נתונים לעצירה?
זה הצד השני של הפיתוחים הללו, כי יש הרואים בפיתוח של מוח מלאכותי ברמה שכזו עניין מסוכן. הרי כשמלמדים מחשב ללמוד ומאפשרים לו לעשות זאת באופן חופשי ומיומן, עלול להיווצר מצב שבו הוא יגיע לרמה כה גבוהה, עד שהוא יאיים על קיומו של המין האנושי. דמיינו למשל מערכות תוכנה שיבצעו פשעים באינטרנט - מי יואשם בפשע כזה? או מערכת לוחמה חכמה שתבצע פשעים נגד האנושות, בשל פירוש שגוי של כוונת המפעילים, או מבחירה בעייתית לשמור על חיי החיילים בכל מחיר - מי ערב לנו שההיטלר של העתיד לא יהיה מוח מלאכותי ממוחשב שהחליט למחוק אומה, רק כי הוא יכול? ואת מי נעמיד לדין על פשעים כאלה אם מחשב כתב קוד, שכתב קוד, שכתב את התוכנה הפושעת?
הנה סיפורו של המוח הכחול שמפותח בישראל (עברית):
http://youtu.be/L0AR1cUlhTk
גם הסיכוי לייצר מוח מלאכותי בהנדסה גנטית הוא קטן (מתורגם):
https://youtu.be/s_LxZx42sIk
ותכנית טלוויזיה על מחקר המוח הישראלי (עברית):
http://youtu.be/E5yWCvjsXYk
הלמידה העמוקה (Deep Learning) היא תחום מחקר בעולם המחשבים וספציפית בתחום "למידת המכונה" שמניח שהמחשב יכול ללמוד וללמד את עצמו, ממש כמו המוח האנושי. מטרתו הברורה של התחום הזה היא ליצור חיקוי ממוחשב של פעולת המוח האנושי.
בין שנות ה-70 לאמצע שנות ה-2000, רווחה אכזבה מאד גדולה מהביצועים של תחום הבינה המלאכותית. התחום שפעם הבטיח מהפכה של ממש בעולם המחשוב, "לא סיפק את הסחורה". התקופה הזו כונתה אז "החורף של הבינה המלאכותית".
אבל בשלב מסוים, בשנות האלפיים ואחרי שנים רבות של האכזבה, הפציעה האינטליגנציה המלאכותית מחדש, כשהפעם היא החלה לממש סוף כל סוף את ההבטחה מימי התום שלה. מחשבים מהירים פי מיליון, כמויות מידע עצומות שהחל להציע האינטרנט ושנאגרו על כונני ענק זולים ונגישים - כל אלה הבשילו לטכנולוגיה חזקה ומעשית - "הלמידה העמוקה".
התחום הזה הוא תת-תחום בתוך תחום "למידת המכונה", שגם הוא עצמו, כמו שאומרים מקצועני תחום "למידת המכונה" (ML), מהווה תת-תחום מרכזי בעולם האינטליגנציה המלאכותית.
המיוחד במערכות למידה עמוקה הוא היכולת שלהן ללמוד ולהשתפר כל הזמן ודי בעצמן. מפתחי מערכות כאלה בונים בשבילה מעין "רשת סמנטית". זו מערכת שמחקה את המערכת הנוירונים שבמוח האנושי וכאמור פועלת ולומדת כמוהו - ככל שהיא פועלת וככל שמשתמשים בה - היא משתפרת ו"יודעת" יותר.
מדובר בתחום חדש יחסית בעולם של חקר המערכות הלומדות. הוא נקרא גם "הלמידה החישובית" (Machine Learning). לטווח רחוק מטרת התחום היא פיתוח של מחשב שיוכל להחליף את החשיבה האנושית.
מערכת כזו תהיה מסוגלת לזהות תבניות ודפוסים בדיבור, תמונות, צלילים ועוד סוגי מידע, שהמערכות מתקשות כיום לעבד ולטפל בהם.
חשיבה עמוקה היא רק בתחילתה, אבל חוקרים נעזרו בה כבר לזיהוי מולקולות שייקשרו למטרות בגוף טוב יותר ומסתייעים בממצאים לפיתוח תרופות חדשות. מחשב או תוכנה שמצוידים ב"חשיבה עמוקה" מבינים כבר היום שפה אנושית במנועי חיפוש, בחיפוש קולי ובעוזרים דיגיטליים כמו "סירי" של חברת אפל ו"קורטנה" של מיקרוסופט. בעתיד יסיקו מערכות כאלה גם מסקנות ויקבלו החלטות בכוחות עצמן.
העתיד מבטיח מפיתוחים אלה מערכות רפואיות שמטפלות בחולים, אנליסטים ומומחים ממוחשבים לניהול כספים ומסחר במניות ועד למערכות ראיה ממוחשבת, שיוכלו לזהות עצמים במרחב ולסווג אותם, ללא צורך בהתערבות אנושית.
באמצעות חיקוי היכולת האנושית ללמוד, מצליחות מערכות למידה עמוקה גם ליצור ציורים, מוסיקה, סרטונים וטקסטים,להמליץ ללקוחות על רכישות, לייצר קריינות מלאכותית, לזהות עצמים ופנים מדויקות בתמונות וסרטונים, לאבחן מחלות, להפיק רווחים ממניות, להלביש פנים של מפורסמים על סרטי וידאו ועוד שלל יישומים.
המלצה:
======
קראו באאוריקה בתגית "Google Brain", על אחד מפרויקטי הבינה המלאכותית הגדולים ביותר אי פעם.
הנה טכנולוגיית הלמידה העמוקה והעתיד שהיא מסמנת, כולל הסכנות האפשריות:
http://youtu.be/IoP9akd44wk
כך עובדים על פיתוח המוח העמוק:
http://youtu.be/zLp-edwiGUU
הדגמה ויזואלית של עץ ההחלטות הגדל ומתפתח של מערכת חכמה:
http://youtu.be/nSg4HKHdDs4
רשת נוירונים
הווב הסמנטי (Semantic web) הוא חזון לבסיס נתונים שיפעל כרשת ויכיל את קשרי המשמעויות שבין מרכיביו. הרעיון הוא לשפר את רשת האינטרנט שאנו מכירים כ-WWW, לרשת שתכיל מידע על כל סוג של קובץ המצוי בה. המידע הזה יאפשר שימוש יעיל ומתקדם מאד בתכנים שברשת. כל פריט מידע ברשת כזו יהיה מתויג, כך שהוא יסייע לרשת לסייע למשתמשים לקבל מידע מתאים ואיכותי, כשהם יזדקקו לו. להוספת רכיבי המידע הנדרשים ליצירת רשת כזו ישתמשו בכלים כמו מטא-תגיות (META Tags) - תגיות-על שתפקידן לתאר את פריט המידע ונתוני-על (META data), שיתארו את הדפים והאתרים שברשת ויאפשרו לבסיס הנתונים "לדעת" עליהם דברים חשובים.
באופן מסוים אמורה לפעול הרשת הסמנטית הזו כמודל של המוח האנושי. הגולשים יידעו מראש לגבי אתרים איכותיים ומעניינים בשבילם ספציפית, כי הרשת הזו תדע מה הם אוהבים ובמה הם מתעניינים ויודעת לברור בשבילם את המתאים ביותר, מבין מה שהיא מכילה. בזכות "הידע על הידע" שיוסיף הווב הסמנטי, יוכלו הגולשים גם להימנע מאתרים גרועים, סתמיים או לא מתאימים להם וכדומה.
אבל רשת עתידית שכזו תכיל גם "סוכני תוכנה", תוכנות מתקדמות שיפעלו ברשת כזו ברקע ויבצעו בה פעולות של איסוף וניתוח נתונים ומגוון משימות מורכבות וקשות, שלרוב מבוצעות על ידי בני אדם. הסוכנים הממוחשבים הללו ימצאו ויאתרו כל הזמן קשרים ואסוציאציות בין פריטי המידע שנוספים אליה ויתייגו אותם. בצורה כזו ניתן יהיה להשתמש בהם בצורה חכמה. הנתונים ברשת כזו יוכלו להיות שימושיים ושיתופיים למגוון של צרכים, מתוכנות ועד לעסקים, מיזמים שונים.
את הרשת הסמנטית חזה ממציא רשת האינטרנט, טים ברנרס-לי. החזון שלו היה של רשת מידע שתאפשר למחשבים להבין את המשמעויות של הפרטים שהיא מכילה. הוא כתב עליה לראשונה בשנת 2001, ביחד עם עמיתיו, במאמר שפורסם במגזין "סיינטיפיק אמריקן".
בין הדוגמאות שנתן אז ברנרס-לי היו סוכנים ממחשבים שינהלו את לוח הפגישות של המשתמש, באופן שלוקח בחשבון נתונים ממקורות שונים וידע שקיים ברשת. הוצעו גם תוכנת דואר חכמה שעוד בזמן כתיבת מייל מודיעה על חברים שנתקלו בנושא, שיתופי פעולה עסקיים אפשריים ועוד.
הנה הווב הסמנטי:
https://youtu.be/OGg8A2zfWKg
מייסד ויקיפדיה מסביר את המושג כמו שהוא מבין אותו:
https://youtu.be/MY4s8uuHmy0
ומונולוג ארוך והאמת גם די משעמם של טים ברנרס לי על הווב הסמנטי:
https://youtu.be/HeUrEh-nqtU
למידת מכונה היא תחום שנחקר כבר עשרות שנים. בשנים האחרונות הוא הולך ומתפתח לכיוון של למידה עמוקה. מערכת הלמידה העמוקה הגדולה והמתקדמת בעולם כיום היא ה-Google Brain. זהו אחד מפרויקטי הבינה המלאכותית הגדולים בעולם. הפרויקט מנסה לפתח מוח ממוחשב מ-16,000 ליבות מחשבים ותוכנת מחשב שלומדת מתוך דוגמאות ומסיקה מסקנות בעצמה, תוך כדי התמודדות עם בעיות מורכבות במיוחד. משאבי המחשב שמוקדשים לפיתוח זה הם עצומים וכך גם התקציבים שחברת הענק משקיעה במחקר והפיתוח, כולל גיוס האנשים המתקדמים בעולם בתחום זה ושל המדען והעתידן הגאון ריי קורצווייל, שהסכים לעמוד בראש הפרויקט.
אבל למה גוגל צריכה מערכת למידה עמוקה? - היות ופיתוח של רשתות מחשב מבוססות נוירונים עולה המון כסף, חברת גוגל בעלת המיליארדים היא מהיחידות בעולם שיכולות להקצות משאבים לנושא. לרשת שמאפשרת את הלמידה של המחשב העמוק מוקצים עוד ועוד מחשבים. רק כך ניתן לדמות את אופן הפעולה של המוח האנושי.
וזה עוד כלום. ברצונם להגיע למאה טריליון קישורים בין נוירונים במחשב העל של גוגל, מגייסת החברה את מיטב חידושי הטכנולוגיה שיוצאים לשוק, כולל מעבדים מקביליים ומהירים ביותר, כרטיסי מסך גרפיים המכונים "GPU" ושפותחו עבור תעשיית המשחקים, ועד רכיבי מחשוב קוונטי. גוגל כה רצינית בשאיפות שלה בתחום זה, שהיא רוכשת חברות קטנות שעוסקות בתחום וכך קונה הן את הטכנולוגיות והידע שהן צברו והן את כוח האדם המעולה שלהן.
המלצה:
======
בתגית "למידה עמוקה" תוכלו לקרוא על עולם הבינה המלאכותית, המתבססת על רשת נוירונים כמו זו שבונה גוגל. שווה לקרוא גם בתגית "רשתות נוירונים".
הנה למידת המכונה:
https://youtu.be/59bMh59JQDo
כך מתבצעים פרויקטי הבינה המלאכותית הגדולים של גוגל ומתחרותיה:
https://youtu.be/gB_-LabED68
כך מסייעים מוחות טכנולוגיים עם למידה עמוקה לעולם להתקדם:
https://youtu.be/Dy0hJWltsyE
סרטון עם מתיחה שבה גוגל הולכים להחליף את המוח האנושי:
https://youtu.be/fV52J7_7gss
ופרוייקט הגוגל בוקס והבעיות שהוא עורר:
https://youtu.be/5_EyoyHLnLI
רשתות סמנטיות (Semantic networks) הן שיטה להכנת מפות מידע, שבה מסומנים ומוגדרים הקשרים בין המושגים השונים. רשת סמנטית מיועדת למיפוי לפי משמעות ועל פי הקשרים בין מרכיבים שונים בה (מיפוי סמנטי). שימוש ברשת מושגית מתקדמת שכזו יכול לסייע בתהליכי חשיבה, סיעור מוחין וקבלת החלטות.
המידע ברשת סמנטית מאורגן לפי מושגים שמיוצגים במילה או במשפט ומקושרים למושג מרכזי. נכנה את המושגים "צמתים". בין כל צומת לאחרות יש קשרים, שהם בעצם קשרים אל המושגים הקרובים אליה משמעותית. רשת כזו ניתן לבנות לדוגמה סביב המושג המרכזי "אריה". קשרים יחברו בינו לבין מושגים קרובים כמו: טורפים, יונקים, חתולים גדולים, חיות פרא, אוכל בשר, אפריקה וכדומה. לכל קשר יהיה את התפקיד והמשמעות שלו וצבעים שונים יכולים לבטא את סוג הקשר בין מושגים.
שרטוט רשתות סמנטיות מאפשר תהליך למידה. זה קורה בשילוב שאנו עושים בין הדברים הידועים לנו בטרם הלמידה, לבין הדברים שנלמד תוך כדי השילוב של ידע חדש ברשת הסמנטית. קשרים שלא נדע להסביר את טיבם ומושגים ללא קשרים ביניהם יצביעו על מה שדורש למידה נוספת ומעמיקה יותר. בהנחה שחקר ולמידה כאלו אכן יבוצעו ויקרו, ההבנה של המושגים והקשרים שביניהם היא הלמידה.
בשנים האחרונות הפך נושא הרשת הסמנטית לתחום חם גם בעולם הטכנולוגיה. זאת לאחר שהסתבר שרשת כזו יכולה להוות בסיס למערכות בינה מלאכותית ולשיפור רשת האינטנרט ומנועי החיפוש. המחקר המדעי בעולם עוסק לא מעט במיפוי סמנטי לצורכי המיחשוב ובמקביל התפתח חזון הווב הסמנטי, שמציג רשת עתידית, מבוססת משמעות ובעלת יכולות רבות לשיפור האינטרנט (קראו עליה באאוריקה בתגית "ווב סמנטי").
משימת התנסות
===========
הכינו רשת סמנטית על המושג "מחשב", בכתיבת המושג, המושגים הקרובים והמושגים שנובעים מהם ויצירת הקשרים ביניהם על גבי נייר.
הנה הרשת הסמנטית:
https://youtu.be/3wMfKTkYemY
