שלום,
נראה שכבר הכרתם את אאוריקה. בטח כבר גיליתם כאן דברים מדהימים, אולי כבר שאלתם שאלות וקיבלתם תשובות טובות.
נשמח לראות משהו מכם בספר האורחים שלנו: איזו מילה טובה, חוות דעת, עצה חכמה לשיפור או כל מה שיש לכם לספר לנו על אאוריקה, כפי שאתם חווים אותה.
»
«
מהו מודל עסקי?
כל חברה מסחרית צריכה להרוויח כדי להמשיך ולהתקיים. הרווח הוא מה שנשאר מהכנסות החברה, אחרי שיורדות מהן ההוצאות שלה. בין אם מדובר בחברות הייטק ובין אם מדובר בחנות, מסעדה או יצרן נעליים - כל עסק מסחרי צריך לגבש לעצמו מודל עיסקי ברור ולהרוויח, כלומר להכניס יותר ממה שהוא מוציא.
מודל עסקי הוא האופן שבו החברה יוצרת הכנסות ורווחים, כלומר מקורות ההכנסה של החברה המסחרית או העסק. ישנם מודלים עסקיים רבים ומגוונים.
הנה כמה דוגמאות למודלים עסקיים שווים:
חברה המוכרת מוצרים - המודל שלה הוא מכירה. היא קונה בזול ומוכרת ביוקר. מסחר. זה המודל העסקי הפופולרי והמוכר ביותר.
אתר אינטרנט חינמי - המודל העסקי שלו הוא לרוב מפרסומות באתר, ממכירת שירותים מיוחדים למי שמעוניין בהם (פרימיום), ממכירת מידע על מגמות וביקושים לגופים עסקיים אחרים ועוד.
חברה המשווקת מוצר תוכנה - המודלים שלה יכולים להיות מכירת התוכנה בכסף או חלוקתה בחינם וגביית תשלום עבור תמיכה בה. לעתים חברה כזו נותנת את הבסיס בחינם וגובה כספים עבור שירותים מסוימים, שירותי פרימיום שסגורים רק למי שמשלם עבורם.
הנה הסבר מהו מודל עיסקי (עברית):
http://youtu.be/37q9GB8oblM
בעולם הסטארטאפים המודל העסקי הוא הכרחי לגיוס כסף ממשקיעים ולבניית המיזם בצורה נכונה (עברית):
https://youtu.be/Pzj9Ryibp7M
המודל העסקי המרתק וייחודי של חברת איקאה:
https://youtu.be/tkfq__rdoD0
ותראו מה המודל העסקי של אפליקציית שידוכים למשל (עברית):
https://youtu.be/BRakUD0-EzE
איך חברות התעופה של הלואו-קוסט מצליחות להתקיים?
חברות הלואו-קוסט הן חברות התעופה זולות (Low cost), המציעות טיסה זולה ואת שאר האפשרויות לנוסעים בתשלום נוסף.
חברות אלה, בכך שהן כוללות פחות שירותים במחיר הכרטיס, מצליחות להציע מחירי כרטיסים נמוכים מאד, לעתים ממש מצחיקים. מהמחיר הזול נובעת הצלחתן הכלכלית, שבמיוחד בתקופה שבה סובלות חברות תעופה רבות מקשיים להתקיים, היא עובדה מדהימה.
זהו מודל עסקי המבוסס על אסטרטגיית מחיר. הםץן אומרות לנוסעים: אצלנו זול ותוכלו לקבל את המינימום של להגיע ממקום למקום בזול ממש. על השאר, אם תרצו, תשלמו.
זה מודל הכנסה הפוך מחברות התעופה הקלאסיות, שמאז ומתמיד גבו כרטיס יקר לנוסע, כשהכל נכלל בו מראש, למעט תוספות ייחודיות שעליהן גבו בנפרד.
איך הן מוזילות את הכרטיס כל כך?
הן טסות לנמלי תעופה משניים וזולים, לעיתים בסבסוד משמעותי של גופי תיירות מקומיים, מפעילות מטוסים קטנים יותר ורק סוג אחד שלהם, מה שמוזיל את התחזוקה מאד. אלה מטוסים מתוחכמים ומפנקים הרבה פחות, ששורות המושבים בהם דחוסות מעט יותר וזה מאפשר ניצול מרבי של חלל המטוס.
והנוסעים מצביעים בהמוניהם לטובתן - במקום טיסה כמותרות, רבים מהנוסעים בסך הכל רוצים לטוס ולהגיע, כמו באוטובוס או ברכבת, ממקום למקום.
#איך התחיל הכל?
הסיבה ההיסטורית להיוולדן של חברות התעופה הללו, בשיטת ה"לואו קוסט" נעוצה באירועי תחילת האלף החדש. אחרי הפיגועים ב-9/11 בארצות הברית, הלכו הטיסות והתייקרו. הדרישות הבטיחותיות הקשו על חברות התעופה והפכו את הטיסות לחו"ל ליקרות יותר ויותר. נוסעים רבים לא עמדו בעלויות הטיסה לחו"ל וצמצמו את מספר ההזמנות באופן דרסטי. לא מעט מחברות התעופה נקלעו בעקבות כך לקשיים וחלקן אף נסגרו.
בתנאים אלה נולדו חברות חדשות שהבטיחו טיסות לואו קוסט, שהן טיסות חסכוניות וזולות לנוסעים. חברות תעופה אלה היו חסכוניות במיוחד. הן קנו המון מטוסים מיצרניות המטוסים הוותיקות, שבגלל המשבר הכלכלי שלהן וירידת מספר הנוסעים, נתקעו עם מטוסים שלא הופעלו. המטוסים הללו, שקודם לא נמצאו להם קונים, נחטפו בגרושים על ידי חברות הלואו-קוסט, שמצידן הציעו כרטיסי טיסה זולים מאד, בתנאי טיסה מפנקים פחות.
הורדת תנאי הטיסה והפינוקים, שעד אז נתפסו כחובה בטיסות כאלה, כמו גם הקטנת המשכורות לאנשי צוות המטוס בחברות אלה, לעומת אלה של אנשי הצוות בחברות התעופה הרגילות - כל אלו הורידו את ההוצאות ולכן אפשרו גם את צמצום עלויות הטיסות לנוסעים והורדת מחיר הכרטיס לרצפה.
וכך, צמצום התנאים שניתנים לנוסעים, העובדה שלכל מטוס דוחסים יותר מושבים ושתנאי הטיסה בסיסיים יותר, לצד מכירת התוספות לנוסעים, כמו אוכל ושתייה בטיסה או תשלום לבעלי מזוודות גדולות ואפילו טיסה במהירות איטית יותר ממה שהמטוס יכול, כדי לחסוך בהוצאות הדלק - כל אלה הורידו את מחיר הכרטיסים הבסיסיים ואפשרו להמוני אנשים להצטרף למעגל הנוסעים השנתי לחופשה בחו"ל.
הנה הדרך שבה עובדות חברות תעופה זולות:
https://youtu.be/069y1MpOkQY
החיסכון בטיסה איטית יותר (עברית):
https://youtu.be/NUtXCUkqGfQ
הבטיחות שלהן, לדברי המומחים, לא נפגעת בשל המחירים הזולים:
https://youtu.be/C9cBlGR-Uck
ומסתבר שיש בהן גם סכנות (עברית):
https://youtu.be/aP1PXIc_Hi0
מהי הוכחת היתכנות?
הוכחת היתכנות (Proof Of Concept) היא פיתוח שמדגים ביצוע של רעיון או שיטה כלשהם לביצוע, ביצוע בקנה מידה מצומצם או חלקי, לעומת הפתרון הכולל שבסופו של דבר מעוניינים לבצע ולממש.
באמצעות הוכחת ההיתכנות, בקיצור POC, משתדלים המבצעים בדרך כלל לוודא שיש פוטנציאל אמיתי לביצוע של הרעיון, התאוריה או הפתרון הטכנולוגי שהם מעוניינים לתת לבעיה.
הוכחת ההיתכנות נעשית כך, לפני שמתחילים לפעול לפיתוח היישום או לשימוש בו בקנה מידה אמיתי, המחייב פיתוח מורכב, יקר וארוך.
בעולם התוכנה תדגים הוכחת ההיתכנות, לא פעם, מימוש חלקי או קטן של הרעיון, כזה שיפותח בדרך כלל, בעלויות נמוכות ובזמן קצר יחסית. חשיבותה תהיה בשכנוע ללכת על הפיתוח, גם העצמי וגם של משקיעים או קרנות הון סיכון להשקיע.
בתאגיד או בשירות הציבורי תפותח הוכחת ההיתכנות לצורך שכנוע של מקבלי החלטות ב"חלונות הגבוהים", על מנת שישתכנעו להשקיע זמן ומשאבים או לפנות עובדים, לצורך מימוש הרעיון.
גם בקולנוע, כהוכחת היתכנות לטכנולוגיות או לשיטות צילום חדשות, יוצרים לא פעם סרט קצר, המראה את התוצאה ומדגים את איכותה.
הנה הסבר של המונח:
https://youtu.be/cTDzYNZrzd8
וההבדלים בין POC לבין MVP, מוצר מינימלי אפשרי:
https://youtu.be/SRWG5pRqN1A
מהם טוקנים ב-AI ולמידת מכונה?
מאסימוני הטלפונים ועד עולם אבטחת מערכות מחשוב, טוקן (Token), בעברית “אסימון”, הוא מושג המשתנה בהתאם להקשר שבו הוא מוזכר. אפילו בתוך עולם המחשבים יש למושג טוקן כמה שימושים.
בלמידת מכונה, אחת הזירות המרתקות של העידן המודרני והתחום בו פועלים מודלי השפה הפופולריים של ימינו, כמו Claude או ChatGPT, לטוקנים יש משמעות אדירה.
אותם מודלים גדולים, LLMs, הם מודלים מתמטיים. כדי לבצע את המשימות שאנו מבקשים מהם, תוך כדי תקשורת איתם בשפה טבעית, כמו אנגלית, עברית וכדומה, הם משתמשים בתהליך שנקרא "טוקניזציה" (Tokenization).
במרכז הטוקניזציה נעשה פילוח של הטקסטים שהמודלים הללו מקבלים כנתונים, כדאטה, ליחידות קטנות יותר, תרגום של חלקי המידע הקטנים למספרים, כשאת יחידות המידע הללו, שהומרו למספרים, הם ינתחו בהמשך.
כך, אחרי שמסתיימת הטוקניזציה, הם מייצרים מהמידע טוקנים, מספרים שכל אחד מהם מייצג פריט מידע קטן. ה"טוקן" משמש בהם בתפקיד "אסימון למידת המכונה", שמתאר באופן מתמטי את יחידות הטקסט הקטנות. אלה מעין יחידות מידה שהמודלים המוכרים יוצרים מהקונטקסט.
לאחר שסיימו להפוך את המידע לטוקנים, מרבית המודלים שאנו מכירים הטוקנים משמשים לייצוג של הטקסט, ביחידות קטנות שהמודל מעבד בצורה מתמטית.
כשאנו משתמשים בטוקנים, זה כדי לסייע למודל להבין את המבנה של הטקסט, כך שיוכל לבצע על פיו את החישובים שלו. טוקן אחד יכול להיות כל חלק ממילה בשפה הרגילה שלנו, או אפילו תו אחד.
כדי להבין ולהגיב לקלט, המודל משתמש בכמות מסוימת של טוקנים. וטוקן יכול להיות כל פיסת מידע, מתו בודד ועד מילה שלמה ולעתים גם יותר. יש שיטות שונות של טוקניזציה והבחירה ביניהן היא בהתאם לאלגוריתם בו משתמשים. יש שהאסימון הוא לפי תווים (Character tokenization), אסימון לפי מילים, לפי משפט, ביטויים, טוקניזציה לפי מילת משנה ולפי מספר.
בשיחה על מודל AI (ה-LLM, כמו ChatGPT או Claude) משמש הטוקן לציון גודל השיחה על המודל והיקף המידע שיכול להיות בה. לכל מודל יש מגבלה של זיכרון התוכן שהוא יכול לעבד בשיחה אחת ולהתבסס עליו בתשובות שלו ובמהלך השיחה.
כל הטקסט שהמודל מכיל ובא מהקלט שמזרים לו המשתמש, כולל השאלות והתשובות וכל מידע נוסף, כל אלו מכונים "קונטקסט" (Context), כלומר "ההקשר".
חלון ההקשר (Context window), או "חלון הקונטקסט", מייצג את כמות התוכן שהמודל יכול לעבד בשיחה עם משתמש. הכמות הזו נספרת בטוקנים. אם קלוד, למשל, תומך ב-200 אלף טוקנים, זה אומר שהשיחה יכולה לכלול כ-40 אלף מילים. אם לג'מיני של גוגל יש מיליון טוקנים, זה אומר פי 5 יותר מילים וגודל חלון הקונטקסט שלה, כלומר השיחות עם ג'מיני הוא של כ-2 ספרים ממוצעים.
גם מהירויות של מודלים מודגמת לא פעם בטוקנים לשנייה. לא נדיר לראות השוואת מהירויות כמו "מודל ה-Sonar החדש של Perplexity מגיע לביצועים של עד 1200 טוקנים לשניה, בהשוואה ל-75 טוקנים לשניה בלבד של המודל Claude 3.5 Sonnet" או 140 טוקנים לשניה של Gemini 2.0 Flash של גוגל".
על טוקנים ותשובות קצרות ושוות (למסך מלא):
https://youtu.be/SNF3Rppot0w
טוקניזציה כפי שהיא נעשית בידי מדעני נתונים:
https://youtu.be/fNxaJsNG3-s
פרמטרים וטוקנים הם לא הכל במודלים:
https://youtu.be/a1nqXQMOCks
הסבר של Machine Learning Token באנגלית:
https://youtu.be/mnqXgojQCJI
וטוקניזציה באתרי אינטרנט שיכולה לשמש בהקשר אחר כאמצעי אבטחה:
https://youtu.be/Y7I4IDojhJk
מודל עיסקי
כל חברה מסחרית צריכה להרוויח כדי להמשיך ולהתקיים. הרווח הוא מה שנשאר מהכנסות החברה, אחרי שיורדות מהן ההוצאות שלה. בין אם מדובר בחברות הייטק ובין אם מדובר בחנות, מסעדה או יצרן נעליים - כל עסק מסחרי צריך לגבש לעצמו מודל עיסקי ברור ולהרוויח, כלומר להכניס יותר ממה שהוא מוציא.
מודל עסקי הוא האופן שבו החברה יוצרת הכנסות ורווחים, כלומר מקורות ההכנסה של החברה המסחרית או העסק. ישנם מודלים עסקיים רבים ומגוונים.
הנה כמה דוגמאות למודלים עסקיים שווים:
חברה המוכרת מוצרים - המודל שלה הוא מכירה. היא קונה בזול ומוכרת ביוקר. מסחר. זה המודל העסקי הפופולרי והמוכר ביותר.
אתר אינטרנט חינמי - המודל העסקי שלו הוא לרוב מפרסומות באתר, ממכירת שירותים מיוחדים למי שמעוניין בהם (פרימיום), ממכירת מידע על מגמות וביקושים לגופים עסקיים אחרים ועוד.
חברה המשווקת מוצר תוכנה - המודלים שלה יכולים להיות מכירת התוכנה בכסף או חלוקתה בחינם וגביית תשלום עבור תמיכה בה. לעתים חברה כזו נותנת את הבסיס בחינם וגובה כספים עבור שירותים מסוימים, שירותי פרימיום שסגורים רק למי שמשלם עבורם.
הנה הסבר מהו מודל עיסקי (עברית):
http://youtu.be/37q9GB8oblM
בעולם הסטארטאפים המודל העסקי הוא הכרחי לגיוס כסף ממשקיעים ולבניית המיזם בצורה נכונה (עברית):
https://youtu.be/Pzj9Ryibp7M
המודל העסקי המרתק וייחודי של חברת איקאה:
https://youtu.be/tkfq__rdoD0
ותראו מה המודל העסקי של אפליקציית שידוכים למשל (עברית):
https://youtu.be/BRakUD0-EzE
חברות הלואו-קוסט הן חברות התעופה זולות (Low cost), המציעות טיסה זולה ואת שאר האפשרויות לנוסעים בתשלום נוסף.
חברות אלה, בכך שהן כוללות פחות שירותים במחיר הכרטיס, מצליחות להציע מחירי כרטיסים נמוכים מאד, לעתים ממש מצחיקים. מהמחיר הזול נובעת הצלחתן הכלכלית, שבמיוחד בתקופה שבה סובלות חברות תעופה רבות מקשיים להתקיים, היא עובדה מדהימה.
זהו מודל עסקי המבוסס על אסטרטגיית מחיר. הםץן אומרות לנוסעים: אצלנו זול ותוכלו לקבל את המינימום של להגיע ממקום למקום בזול ממש. על השאר, אם תרצו, תשלמו.
זה מודל הכנסה הפוך מחברות התעופה הקלאסיות, שמאז ומתמיד גבו כרטיס יקר לנוסע, כשהכל נכלל בו מראש, למעט תוספות ייחודיות שעליהן גבו בנפרד.
איך הן מוזילות את הכרטיס כל כך?
הן טסות לנמלי תעופה משניים וזולים, לעיתים בסבסוד משמעותי של גופי תיירות מקומיים, מפעילות מטוסים קטנים יותר ורק סוג אחד שלהם, מה שמוזיל את התחזוקה מאד. אלה מטוסים מתוחכמים ומפנקים הרבה פחות, ששורות המושבים בהם דחוסות מעט יותר וזה מאפשר ניצול מרבי של חלל המטוס.
והנוסעים מצביעים בהמוניהם לטובתן - במקום טיסה כמותרות, רבים מהנוסעים בסך הכל רוצים לטוס ולהגיע, כמו באוטובוס או ברכבת, ממקום למקום.
#איך התחיל הכל?
הסיבה ההיסטורית להיוולדן של חברות התעופה הללו, בשיטת ה"לואו קוסט" נעוצה באירועי תחילת האלף החדש. אחרי הפיגועים ב-9/11 בארצות הברית, הלכו הטיסות והתייקרו. הדרישות הבטיחותיות הקשו על חברות התעופה והפכו את הטיסות לחו"ל ליקרות יותר ויותר. נוסעים רבים לא עמדו בעלויות הטיסה לחו"ל וצמצמו את מספר ההזמנות באופן דרסטי. לא מעט מחברות התעופה נקלעו בעקבות כך לקשיים וחלקן אף נסגרו.
בתנאים אלה נולדו חברות חדשות שהבטיחו טיסות לואו קוסט, שהן טיסות חסכוניות וזולות לנוסעים. חברות תעופה אלה היו חסכוניות במיוחד. הן קנו המון מטוסים מיצרניות המטוסים הוותיקות, שבגלל המשבר הכלכלי שלהן וירידת מספר הנוסעים, נתקעו עם מטוסים שלא הופעלו. המטוסים הללו, שקודם לא נמצאו להם קונים, נחטפו בגרושים על ידי חברות הלואו-קוסט, שמצידן הציעו כרטיסי טיסה זולים מאד, בתנאי טיסה מפנקים פחות.
הורדת תנאי הטיסה והפינוקים, שעד אז נתפסו כחובה בטיסות כאלה, כמו גם הקטנת המשכורות לאנשי צוות המטוס בחברות אלה, לעומת אלה של אנשי הצוות בחברות התעופה הרגילות - כל אלו הורידו את ההוצאות ולכן אפשרו גם את צמצום עלויות הטיסות לנוסעים והורדת מחיר הכרטיס לרצפה.
וכך, צמצום התנאים שניתנים לנוסעים, העובדה שלכל מטוס דוחסים יותר מושבים ושתנאי הטיסה בסיסיים יותר, לצד מכירת התוספות לנוסעים, כמו אוכל ושתייה בטיסה או תשלום לבעלי מזוודות גדולות ואפילו טיסה במהירות איטית יותר ממה שהמטוס יכול, כדי לחסוך בהוצאות הדלק - כל אלה הורידו את מחיר הכרטיסים הבסיסיים ואפשרו להמוני אנשים להצטרף למעגל הנוסעים השנתי לחופשה בחו"ל.
הנה הדרך שבה עובדות חברות תעופה זולות:
https://youtu.be/069y1MpOkQY
החיסכון בטיסה איטית יותר (עברית):
https://youtu.be/NUtXCUkqGfQ
הבטיחות שלהן, לדברי המומחים, לא נפגעת בשל המחירים הזולים:
https://youtu.be/C9cBlGR-Uck
ומסתבר שיש בהן גם סכנות (עברית):
https://youtu.be/aP1PXIc_Hi0
הוכחת היתכנות (Proof Of Concept) היא פיתוח שמדגים ביצוע של רעיון או שיטה כלשהם לביצוע, ביצוע בקנה מידה מצומצם או חלקי, לעומת הפתרון הכולל שבסופו של דבר מעוניינים לבצע ולממש.
באמצעות הוכחת ההיתכנות, בקיצור POC, משתדלים המבצעים בדרך כלל לוודא שיש פוטנציאל אמיתי לביצוע של הרעיון, התאוריה או הפתרון הטכנולוגי שהם מעוניינים לתת לבעיה.
הוכחת ההיתכנות נעשית כך, לפני שמתחילים לפעול לפיתוח היישום או לשימוש בו בקנה מידה אמיתי, המחייב פיתוח מורכב, יקר וארוך.
בעולם התוכנה תדגים הוכחת ההיתכנות, לא פעם, מימוש חלקי או קטן של הרעיון, כזה שיפותח בדרך כלל, בעלויות נמוכות ובזמן קצר יחסית. חשיבותה תהיה בשכנוע ללכת על הפיתוח, גם העצמי וגם של משקיעים או קרנות הון סיכון להשקיע.
בתאגיד או בשירות הציבורי תפותח הוכחת ההיתכנות לצורך שכנוע של מקבלי החלטות ב"חלונות הגבוהים", על מנת שישתכנעו להשקיע זמן ומשאבים או לפנות עובדים, לצורך מימוש הרעיון.
גם בקולנוע, כהוכחת היתכנות לטכנולוגיות או לשיטות צילום חדשות, יוצרים לא פעם סרט קצר, המראה את התוצאה ומדגים את איכותה.
הנה הסבר של המונח:
https://youtu.be/cTDzYNZrzd8
וההבדלים בין POC לבין MVP, מוצר מינימלי אפשרי:
https://youtu.be/SRWG5pRqN1A
מאסימוני הטלפונים ועד עולם אבטחת מערכות מחשוב, טוקן (Token), בעברית “אסימון”, הוא מושג המשתנה בהתאם להקשר שבו הוא מוזכר. אפילו בתוך עולם המחשבים יש למושג טוקן כמה שימושים.
בלמידת מכונה, אחת הזירות המרתקות של העידן המודרני והתחום בו פועלים מודלי השפה הפופולריים של ימינו, כמו Claude או ChatGPT, לטוקנים יש משמעות אדירה.
אותם מודלים גדולים, LLMs, הם מודלים מתמטיים. כדי לבצע את המשימות שאנו מבקשים מהם, תוך כדי תקשורת איתם בשפה טבעית, כמו אנגלית, עברית וכדומה, הם משתמשים בתהליך שנקרא "טוקניזציה" (Tokenization).
במרכז הטוקניזציה נעשה פילוח של הטקסטים שהמודלים הללו מקבלים כנתונים, כדאטה, ליחידות קטנות יותר, תרגום של חלקי המידע הקטנים למספרים, כשאת יחידות המידע הללו, שהומרו למספרים, הם ינתחו בהמשך.
כך, אחרי שמסתיימת הטוקניזציה, הם מייצרים מהמידע טוקנים, מספרים שכל אחד מהם מייצג פריט מידע קטן. ה"טוקן" משמש בהם בתפקיד "אסימון למידת המכונה", שמתאר באופן מתמטי את יחידות הטקסט הקטנות. אלה מעין יחידות מידה שהמודלים המוכרים יוצרים מהקונטקסט.
לאחר שסיימו להפוך את המידע לטוקנים, מרבית המודלים שאנו מכירים הטוקנים משמשים לייצוג של הטקסט, ביחידות קטנות שהמודל מעבד בצורה מתמטית.
כשאנו משתמשים בטוקנים, זה כדי לסייע למודל להבין את המבנה של הטקסט, כך שיוכל לבצע על פיו את החישובים שלו. טוקן אחד יכול להיות כל חלק ממילה בשפה הרגילה שלנו, או אפילו תו אחד.
כדי להבין ולהגיב לקלט, המודל משתמש בכמות מסוימת של טוקנים. וטוקן יכול להיות כל פיסת מידע, מתו בודד ועד מילה שלמה ולעתים גם יותר. יש שיטות שונות של טוקניזציה והבחירה ביניהן היא בהתאם לאלגוריתם בו משתמשים. יש שהאסימון הוא לפי תווים (Character tokenization), אסימון לפי מילים, לפי משפט, ביטויים, טוקניזציה לפי מילת משנה ולפי מספר.
בשיחה על מודל AI (ה-LLM, כמו ChatGPT או Claude) משמש הטוקן לציון גודל השיחה על המודל והיקף המידע שיכול להיות בה. לכל מודל יש מגבלה של זיכרון התוכן שהוא יכול לעבד בשיחה אחת ולהתבסס עליו בתשובות שלו ובמהלך השיחה.
כל הטקסט שהמודל מכיל ובא מהקלט שמזרים לו המשתמש, כולל השאלות והתשובות וכל מידע נוסף, כל אלו מכונים "קונטקסט" (Context), כלומר "ההקשר".
חלון ההקשר (Context window), או "חלון הקונטקסט", מייצג את כמות התוכן שהמודל יכול לעבד בשיחה עם משתמש. הכמות הזו נספרת בטוקנים. אם קלוד, למשל, תומך ב-200 אלף טוקנים, זה אומר שהשיחה יכולה לכלול כ-40 אלף מילים. אם לג'מיני של גוגל יש מיליון טוקנים, זה אומר פי 5 יותר מילים וגודל חלון הקונטקסט שלה, כלומר השיחות עם ג'מיני הוא של כ-2 ספרים ממוצעים.
גם מהירויות של מודלים מודגמת לא פעם בטוקנים לשנייה. לא נדיר לראות השוואת מהירויות כמו "מודל ה-Sonar החדש של Perplexity מגיע לביצועים של עד 1200 טוקנים לשניה, בהשוואה ל-75 טוקנים לשניה בלבד של המודל Claude 3.5 Sonnet" או 140 טוקנים לשניה של Gemini 2.0 Flash של גוגל".
על טוקנים ותשובות קצרות ושוות (למסך מלא):
https://youtu.be/SNF3Rppot0w
טוקניזציה כפי שהיא נעשית בידי מדעני נתונים:
https://youtu.be/fNxaJsNG3-s
פרמטרים וטוקנים הם לא הכל במודלים:
https://youtu.be/a1nqXQMOCks
הסבר של Machine Learning Token באנגלית:
https://youtu.be/mnqXgojQCJI
וטוקניזציה באתרי אינטרנט שיכולה לשמש בהקשר אחר כאמצעי אבטחה:
https://youtu.be/Y7I4IDojhJk
