צדיק, יש לך דקה לשמוע על אלכס משיח הAI?
האיש שבלעדיו הסמיילי 🤯 היה כנראה מובטל.
היום נכיר את האיש הכי חשוב שאתם לא מכירים.
מוכנים? בואו איתי 🧵>>
#פידטק #פידאטה #פידטכנולוגיה
(אה כן, אם שמתם Bookmark - תוסיפו איזו הקלקת לייק, זה סופר עוזר לי 🥰)

כדי להבין מה קורה בשרשור הזה, אני בונה על זה שאתם יודעים בגדול איך עובדת רשת קונבולוציה.
זה בעצם סוג של חלק ג' אחרי רשת נוירונים רגילה.
רשת נוירונים:
https://twitter.com/tsoofbaror/status/1564335495559221249
רשת קונבולוציה:
https://twitter.com/tsoofbaror/status/1668234251807100931
נמשיך >>

1. פאן פאקט עלי, מעריץ שרוף של @GeronRoy והפודקאסט "כשבגרוש היה חור".
הפודקאסט בוחן את ההיסטוריה בראי כלכלי, כי מה הדרך הכי טובה ללמוד כלכלה אם לא מאירועים שקרו באמת?
אז בהשראתו:
היום נצלול להיסטוריה הרחוקה של הAI אי שם ב.. 2012.
מוכנים? >>
osimhistoria.com/grush

2. מאגר התמונות ImageNet הוא אולי הכי מפורסם מעולם הAI.
נכון להיום, כולל 14 מיליון תמונות עם יותר מ20,000 מחלקות (תיוגים שונים).
תמונות של בלונים, חתולים, כלבים, בניינים, מה שתרצו.
לקח 3 שנים לבנות אותו, והוא פורסם ב2009 לקהילת "הראיה הממוחשבת", כי אז AI עוד >>

3. היה קצת מילה גסה.
בכל מקרה, אותו דאטהסט ענק זוקק לדאטהסט שמכונה ImageNet-1K.
הוא כולל 1.2M תמונות אימון, 50k ולידציה, 100k בחינה.
ב2010 התחילה תחרות עם השם הארוך והלא-סקסי:
ImageNet Large Scale Visual Recognition Challenge
או ILSVRC בקצרה.
התחרות עבדה כך >>

4. צוותים בנו אלגוריתמים שלמדו את הדאטה, ואז נבחנו על הסט של ה100K.
עבור כל תמונה מה100k, המודל נדרש לייצר 5 תשובות (מתוך 1000 אפשריות), מה שנקרא Top-5 Error.
אם התיוג הנכון נמצא בין 5 התשובות האלה, תשובת המודל מוגדרת כהצלחה.
ב2010-2011 כשהתחרות התחילה, המודלים הכי טובים הגיעו >>

5. לשגיאת-טופ-5 של 25.8%.
ואז (בקול של אסי) הגיע אלכס, ובשנה אחת חתך את השגיאה ל15.3%.
מה שנקרא, Everybody Got Crazy.
למה?
ב2010-11 הקבוצות הזוכות עבדו בשיטות ML קלאסיות.
כל תמונה עברה אלגוריתמים שמהנדסים ממנה מאפיינים, דוחסים אותם והעבירו אותם במסווג שמכונה SVM >>

6. שהוא די פשוט.
ב2012 אותו אלכס, יחד עם איזה אחד שלא מזמן ביקר פה בארץ, איליה סוצקבר המדען הראשי של OpenAI וג'פרי הינטון (עוד ביגשוט בתחום), החליטו להשתמש ברשת נוירונים, אבל לא סתם!
כזו שכוללת כל מיני שדרוגים שונים ומשונים שהיום אספר לכם עליהם.
בנוסף, המימוש שלו אימן >>

7. את הרשת על GPU, דבר שכבר נעשה בעבר, אבל עדיין היה יחסית חריג באותה תקופה.
לרשת אגב, הוא קרא באופן די משעשע AlexNet.
אבל לפני שנדבר על AlexNet, בואו נדבר על LeNet.
רשת הנוירונים LeNet נולדה, תחזיקו חזק, בשנת 1998!
יאן לקון ( @ylecun ), שהיום המדען הראשי של Meta >>

8. הראה כבר 1989 (זאת לא טעות, רגע) שהוא מצליח בעזרת רשתות קונבולוציה פשוטות מאד לזהות ספרות מכתב יד.
הרשת קיבלה תמונה שחור לבן בגדול 16x16, והנה המבנה שדיברתי עליו בשרשור על CNN - שכבות קונבולוציה, ואז שכבות "רגילות".
קצת יותר מ10 שנים אחרי ב1998 הוצגה >>
(בתמונה - הרשת מ1989)

9. הארכיטקטורה של LeNet. אבל רגע לפני שאדבר עליה, תראו את הסרטון הזה - רשתות נוירונים ב1989!
משוגע.
זה יאן לקון הצעיר, אגב.
בכל מקרה, LeNet. >>

10. הנה LeNet.
הרשת הזאת היא באמת אם-כל-רשתות הקונבולוציה, עם התחלת הפופולריזציה של מבנה הקונבולוציה -> אקטיבציה -> פולינג -> חוזר חלילה..
שימו לב לכל המונחים המוכרים משרשור הCNN - יש פה גרעין (Kernel), יש Padding, יש Stride.
נשים לב:
האקטיבציות הן Sigmoid. זה >>

11. היה הסטנדרט ברשתות נוירונים אז.
הPooling לא היה Max Pooling הנפוץ היום, אלא Average Pooling.
עוד על הפולינג בהמשך.
אז LeNet אמנם עבדה נפלא, אבל האימון שלה היה איטי מאד (עוד לא אימנו אז עם GPU) והיא לא ממש הייתה שיפור לשיטות הקיימות, אותם SVMים
שהזכרתי קודם. בכל מקרה, LeNet >>

12. נוצרה אבל לא "תפסה", אך מקומה ההיסטורי חייב אזכור כהשראה לAlexNet שדי דומה, עם כמה שדרוגים רציניים.
הראשון היה שימוש באקטיבציות ReLu במקום סיגמואיד.
אמפירית הבינו שRuLu עדיפה, והיא גם הנפוצה היום.
אם זה לא אומר לכם כלום, עוד אין לי שרשור אקטיבציות - בעתיד.
לא נורא, נמשיך. >>

13. השדרוג השני היה החלפת פולינג ממוצע במקס.
הנה אני אחרי קונבולוציה 3x3 עם גרעין זיהוי קצוות, ופולינג בשתי הדרכים. תראו איך המקס מבליט יותר את המאפיין המזוקק (קצוות).
מגניב, לא?
השדרוג השלישי היה שכבות Dropout, עליהן עוד לא דיברתי.
מדובר על שכבות רשת נוירונים רגילות >>

14.אבל בהן במהלך האימון (בלבד) בהסתברות מסויימת "מכבים" נוירונים (כלומר, הם מוציאים 0).
הרעיון כאן הוא לגרום לרשת לא להיות "תלויה" בנוירונים ספציפיים למשימה
 והמחשבה היא שזה מונע Overfitting.
למיטב ידיעתי היום מתחילים לצמצם את השימוש בטכניקה הזו, כי לא ברור כמה היא באמת יעילה. >>

15. השיפור הרביעי והאחרון הוא כמובן - רשת עמוקה והרבה יותר מסובכת.
הנה היא לפניכם.
עם כוח האימון של הGPU שלא היה זמין ב1989, הצליחו אלכס ושותפיו לאמן את ה"מפלצת" הזו (במונחי 2012) ולנצח בענק בתחרות.
ההצלחה של AlexNet נחשבת לאחת מיריות הפתיחה של מהפכת הAI.
שתבינו, הארכיטקטורה >>

16. שניצחה את AlexNet בתחרות שלוש שנים אחרי היא של גוגל, וכללה רשת נוירונים עם יותר מ100 שכבות (!).
AlexNet הייתה שכנוע אמיתי - רשתות נוירונים עובדות.
טוב.
מאד.
רגע, עברו 3 שנים וגוגל בנו רשת עם +100 שכבות.
למה החבר'ה של AlexNet לא עשו ככה?
כמה כבר התחזקו המחשבים ב3 שנים?!
או! >>

17. זה לא כוח מחשוב.
היינו צריכים עוד מהפכה כדי להצליח לאמן רשתות עמוקות מאד.
עליה נדבר בשרשור הבא :))
<מוזיקת סיום>
נהנתי ממש לעשות מחקר היסטורי.
להבין תהליכי המצאה נותן המון השראה, וכשיגיע ההיסטוריון לכתוב את "ההיסטוריה של הAI", זה בהחלט מועמד לסיפור בדרגת יציאת מצרים. >>


18. וזהו!
מה דעתכם?
מעניינת אתכם ההיסטוריה של הAI?
ולמי שבוגר כל שאר השרשורים שלי, מרגישים שהצלחתם ליישם פה את ה"חומר הנלמד"?
ספרו לי בתגובות, אני נהנה לכתוב על הכל והדעות שלהם מכווינות אותי למה מעניין אתכם יותר.

אם זו פעם ראשונה שלכם אצלי, היי!
מוזמנים לחקור איתי את הקישקע של הAI,
כל פעם קצת אחרת.
זה הזמן לעקוב אחרי:
https://twitter.com/tsoofbaror
אהבתם?
התמורה הכי טובה היא ריטווט הציוץ הראשון.
לא רוצים לפספס כלום?
בואו לערוץ הטלגרם שלי (כבר מעל 300 איש!)
קבלו עדכון לכל תוכן חדש.
הלינק בביו.

AlexNet

גבירותי, רבותי ומודלי שפותיי - המתכנת האוטומטי!
או, בשמו בת.ז: PairProgrammerGPT (PPGPT).
הפרוייקט הכי שאפתני שלי עד כה לטוויטר.
בואו נבין אותו, נבחן אותו ונשמע מה למדתי בדרך 🧵>>
#פידטק #פידאטה #פידטכנולוגיה
(אה כן, אם Bookmark - תוסיפו איזו הקלקת לייק, זה סופר עוזר לי 🥰)

1. נתחיל בדיסקליימר.
יש אנשים שעשו את זה טוב ממני.
בדיוק פורסם GPTEngineer ואפשר לממש דברים דומים עם LangChain.
הרעיון בפרוייקט היה לבדוק את הפונקציונליות של הפיצ'ר החדש של OpenAI - הכנסת פונקציות שבהן GPT יכול להשתמש בצורה פשוטה ואינטואיטיבית בתוך קוד. >>

1.5. עוד משהו קטן - אם אין לכם מושג איך מודל שפה עובד, הנה שרשור רלוונטי:
https://twitter.com/tsoofbaror/status/1651604337100050432
ואני ממליץ גם לקרוא על AutoGPT שמתכתב עם השרשור הזה, אבל לא חובה בכלל:
twitter.com/tsoofbaror/status/1663244782997753856
אם אין לכם מושג מה OpenAI חידשו שהביא לשרשור הזה, תקראו את זה:
https://twitter.com/AmitMandelAI/status/1668680668103204864


2. נתחיל באמת.
כל הפרוייקט סביב ה400 שורות קוד, זה הכל, ברמת ה"סוכן AI שבונים באחר צהריים".
מה הרעיון?
אתם נותנים לPPGPT משימת תכנות בפייתון.
הוא בונה קוד, פיזית, בתוך סביבת התכנות, שומר קבצים וכו.
זהו.
נתראה בשרשור הבא >>

3. סתם.
בואו נפרק את מה שבניתי לגורמים.
מה הפונקציות שעומדות לרשותו?
"שמור קוד" - שמירת קובץ פייתון עם קוד. מחייב אותו גם לשמור תיעוד של מה הקוד עושה בקובץ נפרד.
"קרא תיעוד קוד" - לקרוא את הקובץ הנפרד עם כל תיאורי הקבצים שהוא יצר.
"הרץ קוד מקובץ" - לבחור קובץ להריץ. כאן הכנסתי >>

4. אישור משתמש לכל הרצה, כי פחד אלוהים שיריץ קוד לבד.
"שאל שאלה" - את המשתמש.
"סיימתי" - אומר למשתמש שהוא סיים. אם המשתמש מאשר, הקוד מפסיק לרוץ.
"קרא קובץ" - לפתוח ולקרוא קובץ.
אחרי הכנסת כל הפונקציות, הגיע שלב כוונון פינג-פונג השאלה תשובה.
וכאן מגיעה תצפית >>

5. ממש משעשעת.
בהתחלה אמרתי לו שהוא יכול לקבל את הפלט של הקוד שהוא כותב.
הוא לומד לתכנת מאנשים, אז הוא הכניס מלא הדפסות שהוא לא יכול לראות.
הייתי צריך להשתמש בשיטה שבה הוא יכול לראות אותן.
ועוד משהו - הוא המשיך לטעון לפעמים ש"כמודל שפה, אני לא יכול להריץ קוד", יש מצב שזה איזה >>

6. פילטר שOpenAI הכניסו.
הוספתי כמעט בכל פרומפט תגובה "תזכור שאתה יכול להריץ קוד" וזה סה"כ עבד.
אחרי כל הרצה של קוד, הכנסתי אופציה לפידבק מהמשתמש.
האם הקוד רץ כראוי?
כמובן שכל שגיאה שהקוד החזיר ישר נכנסה חזרה לPPGPT.
הכנסתי כל מיני התמודדויות עם מגבלות השיטה >>

7. נניח, לוודא כל פעם שהוא קורא לפונקציות שקיימות ושהקלט שהוא מכניס אליהן תקין.
אם לא, כותב לו את זה ומבקש שוב.
עוד שדרוג - כשהוא קורא קובץ, אם הקובץ גדול מ1000 תווים אמרתי לו "שמע, זה גדול מידי, זה לא יכנס לך בקונטקסט, תכתוב קוד שדוגם אותו".
הGPT בעצם לא מודע לזה שיש לו >>

8.קונטקסט מוגבל, ושהוא צריך לייעל את ניהול המידע שלו.
הרגשתי לכל אורך הדרך שאני מנסה להשתמש בכלי שעמוק בפנים עוד לא מתאים למשימה.
וזה לב העניין - הוא אומן על דאטה של בני אדם.
עם מקלדת, עכבר ואצבעות.
הוא לא יודע לנצל את הכוח העצום שלו בתור תוכנת מחשב.
זאת אולי המסקנה >>

9. הכי "עמוקה" שהגעתי אליה.
אולי צריך שלב Fine Tune למודל שילמד לנצל את הכוח שלו כ, וול, בינה מלאכותית.
שיבין שהוא "חזק" יותר מבני אדם ויכול לעשות אחרת.
אבל איך אחרת? מאיפה הוא ילמד?
קונספירציות סקיינט רצות לי בראש.
בכל מקרה הכל עובד בתוך לולאה שבנויה כמו בתמונה. >>

9. ניסיתי לשמור על הכל כמה שיותר פשוט תכנותית, ולנהל את ה"דיבאג" של PPGPT בעזרת פרומפטים מדוייקים יותר ולא חוקים מתוכנתנים.
יאללה, בואו נשחק איתו קצת, כמובן בלי צ'רי פיקינג.
כאן חשוב להגיד תודה ל @BenBetzalel על הגישה לGPT4, זה הקפיץ לו את השכל ממש.
נתחיל במשימה פשוטה. >>

10. "כתוב לי קוד פייתון עם ממשק גרפי שמקבל טקסט ומחזיר כמה אותיות, מילים ורווחים יש בו".
הכנסתי כאן את כל התהליך בתמונות לפי הסדר.
תראו.
איזה.
מגניב.

11. נעלה רמה.
הפעם התוכנה מסובכת יותר - מפרק ציוצים.
הוא צריך לקחת טקסט, להוסיף מספור ו">>" בסוף.
הוא הצליח במכה הראשונה, ואז גם עשה תיקונים לפי מה שיבקשתי.
מהמם.
שמתי את כל התכתובת בפייסטבין פה למי שרוצה להעמיק בתהליך:
https://pastebin.com/Lb0ZjzMy

11. ויאללה, מבחן הסנייק.
לא עבר אותו.
את משחק הבסיס מצליח לעיתים לבנות, אבל מתבלבל כשאני מבקש סנייק + פיצ'רים כמו אינדקטור למצב הנקודות, "אוכל בונוס" וכאלה.
אני חושד שGPT מתכנת פה מזיכרון בע"פ ולא מהבנה.
חושב שזה פתיר עם שדרוג ארכיטקטורה של הקוד שלי.
נראה שעם פרוייקט מורכב הוא >>

12. הרבה יותר טועה דווקא בשימוש שגוי בפונקציות.
כאמור, הוא לא נבנה לזה.
הטעות הכי נפוצה היא לנסות להכניס קוד ל"execute_code_from_file", שצריך לקבל שם של קובץ.
אני חושב שעם עוד שיפוצים הוא היה מצליח, אבל הוצאתי איזה 50$ על הפרוייקט (GPT4 יקר לאללה), סתם הגזמתי. >>

13. לאן זה יכול להתקדם?
קודם כל, זה מאד לא חסכוני בטוקנים.
יש לו בקונטקסט את כל הקוד שהוא כתב, ואפשר לשמור את זה בצורה חכמה יותר.
אולי בעתיד אממש אפשרות של "סוכן קריאה". שזה בעצם לפתוח סוכן חדש של GPT, לבקש ממנו לקרוא משהו ולסכם, ולהכניס לקונטקסט של PPGT. חסכון בטוקנים. >>

14. ויש לי עוד לא מעט רעיונות.
כרגיל, הפרוייקט יצא הרבה יותר מידי מורכב למטרת שרשור חינוכי בטוויטר.
המסקנה העיקרית שלי - זה היה קל. מאד.
נסכם.
ממשק הפונקציות, למרות שעוד טעון שיפור מאד ביצועית, מאד נוח ואינטואיטיבי ואפשר לי לבנות פרוייקט כזה עם תוצאות יחסית מרשימות בזמן קצר.


15. אני מרגיש שזאת אחת החוזקות של OpenAI, היכולת להנגיש את המודלים המורכבים האלה בדרכים באמת פשוטות ואינטואיטיביות.
גם לקהל הרחב עם ChatGPT, וגם למתכנתים עם הAPI.
הבעיה העיקרית שChatGPT אומן לענות אנושית, לא לבצע משימות.
הוא הרבה פעמים הסביר לי איך לכתוב את הקוד ולא כתב אותו. >>

16. אני ממשיך לתהות על יכולת המודלים האלה באמת To Reason.
אין להם באמת היגיון.
הם כותבים קוד ומבצעים הוראות אבל יכולים לבצע את אותה פעולה פעמיים סתם.
זה אולי החולשה הכי גדולה שלהם בדרך להיות סוכני AGI אמיתיים, אלה שתיארתי בשיחה עם @itaizil בגל"צ - אם לא שמעתם, הלינק בביו. אני >>

17.  לא בטוח שזה "פתיר" עם מודלים סתם פשוט חזקים יותר ("More Compute!").
אולי זה מצריך איזה שינוי פרדיגמת אימון\ארכיטקטורה, ומודלים סטטיסטיים על שפה לא מספיקים.
טוב, יאללה, ברברתי במוח מספיק.
הפרוייקט יעלה במלואו לגיט שלי, בלינק בביו. >>

18. תצטרכו מפתח API כדי להריץ אותו, אבל הוא בנוי ממש לPlug And Play.
לא בטוח שכיסיתי את כל מקרי הקצה, אז הרצה על אחריותכם בלבד.
מקווה שנהנתם!
אשמח (מאד!) לשמוע בתגובות כל מה שאתם חושבים.
תרגישו חופשי לשאול שאלות, לבקש בקשות, הדרייב שלי ליצור הוא התחושה שאני מצליח לתת לכם ערך!

אם זה השרשור הראשון שלי שאתם קוראים, היי!
מוזמנים לחקור איתי את הקישקע של הAI,
כל פעם קצת אחרת.
זה הזמן לעקוב אחרי:
https://twitter.com/tsoofbaror
אהבתם את מה שקראתם?
התמורה הכי טובה מכם היא לרטווט את הציוץ הראשון.
אני רואה אתכם, מרטווטים, אם אבנה AI שישתלט על העולם הוא יחוס עליכם.

PairProgrammerGPT

איך הענקנו לבינה המלאכותית את חוש הראיה?
היום נצלול אל הCNN, לא רשת הטלוויזה, רשת נוירונים (NN) שעושה.. קונבולוציות (C).
קוֹנְ - בּוֹ - לוּ - צִיּוֹת.
כן.
מוכנים? בואו איתי 🧵>>
#פידטק #פידאטה #פידטכנולוגיה
(אה כן, אם שמתם Bookmark - תוסיפו איזו הקלקת לייק, זה סופר עוזר לי 🥰)

כדי להבין מה קורה בשרשור הזה, אני בונה על זה שאתם יודעים בגדול איך עובדת רשת נוירונים בסיסית. לא יודעים?
הנה!
נמשיך >>
https://twitter.com/tsoofbaror/status/1564335495559221249

1. אפשר להכניס תמונות לרשת נוירונים רגילה.
הן אוסף של פיקסלים.
"נשטיח" אותן לטור מספרים ונכניס אל הרשת.
העניין הוא שזה עובד.. לא משהו.
הקלט ענק, וקשה לרשת להתמודד עם שונות בו.
ה9 הזה יכול להיות ממוקם בכל מקום על מפת הפיקסלים הזו.
בקיצור, קונבולוציות! >>
(אנימציה של 3b1b)

2. קונבו.. מה?
וול, קונבולוציה היא פעולה מתמטית שסורקת תמונה באופן מאד מיוחד.
בואו נדמיין תמונה שחור לבן.
נגדיר שחור מוחלט כ0, לבן מוחלט כ255.
הכנתי הפתעה, מוכנים?
אנחנו הולכים לעשות קונבולוציות יחד, באקסל!
עוד לפני המתמטיקה וה"איך", בואו נראה "מה" עושה קונבולוציה, לאינטואציה. >>

3. שימו ♥️ לציור האקסלי הבא - הספרה אחת.
בנוסף לספרה, יש גם פס שחור בצד שמאל, כי יהיה מעניין לראות איך הוא נתפס בקונבולוציה.
כמו שאמרתי, נתחיל מלראות מה התוצאה של הקונבולוציה, ואחרי שתהיה לנו תפישה טובה למה קורה - נדבר על איך זה קורה.
לכל קונבולוציה יש גרעין, Kernel >>

4. במקרה הזה בחרתי גרעין מיוחד, בגודל 2x2 - גרעין שידוע כמזהה קצוות אנכיים, בצהוב בתמונה.
בואו נסתכל על התוצאה.
שימו לב לאיך הפעולה "זיקקה" את הקצוות.
זה לא בדיוק מאורגן, כי יש שם את ה0 הזה וה255 בשני הצדדים, נטפל בזה בהמשך.
אבל איזה מגניב?!
מצאנו קצוות אנכיים! >>

5. מה קרה כאן מתמטית?
אז אותו גרעין סרק את התמונה (בסרטון בצבע, אצלנו שחור לבן), ובכל פעם כפל את ערכי הפיקסלים בערכי הגרעין - וחיבר אותם ביחד.
מטעמתי ויזואליה, נירמלתי את התוצאה בין 0 ל255.
התוצאה היא בעצם "זיקוק" של מאפיין ספציפי בתמונה, קצה.
אחרי שעושים קונבולוציה, >>

6. נהוג לבצע פעולה בשם Max Pooling, שתזקק את הזיקוק עוד יותר.
אותו מקס פולינג הוא בעצם לקחת בלוקים מהתמונה לפי סדר ובכל פעם להחזיר את הערך המקסימלי.
הפעם בלי חפיפה, הצבעים הם דוגמא למה ממופה לאן, האדום החזיר 128, הכחול 177.
אנחנו רואים טור של 177, שמייצג גבול בין השחור לאפור. >>

7. ואת זיקוק הגבול השמאלי של ה1.
אפשר לבצע אותו דבר גם על גבול ימני עם גרעין מתאים.
בגדול, הפולינג מקטין את התמונה ושומר על ה"זיהוי" של המאפיינים.
תמונה קטנה = רשת מהירה יותר.
הנה עוד המחשה בפייתון, עם שני גרעינים שונים.
הקוד בגיטהאב שלי, בסוף הציוץ. >>

8. בכל מקרה, הקונבולוציות עם הגרעינים המוכנים שירתו אלגוריתמי ראיה ממוחשבת במשך שנים, הנה עוד דוגמא למה קורה ברזולוציות גבוהות.
יש זיהוי ממש ברור של הקצוות, זה לפני פולינג.
אבל.. זה סתם גרעין מהונדס שאני בחרתי.
אז מה חדש ב"רשתות קונבולוציה"?
איך הן משתמשות בעיקרון הזה? >>

9. רשתות קונבולוציה כוללות שכבות קונבולוציה - שמבצעות את הפעולה הזו המון פעמים, ולומדות איזה גרעין יתן להן את התוצאות הכי טובות.
המספרים בגרעין - הם המשקולות הנלמדות!
פעולת הקונבולוציה מזקקת מאפיינים, וכמובן שאפשר לקחת גרעינים גדולים מ2x2, ולעבוד בצורה היררכית.
אם נסתכל >>

10. על התוצאות של הקונבולוציות בתוך רשתות מסוג CNN, נראה דבר מדהים.
ככל שנכנסים יותר לעומק רשת הקונבולציה, מגלים שהן הופכות להיות סורקות שמחפשת רעיונות מופשטים.
הביצוע שלהן במקביל ואחת אחרי השניה עם גרעינים שונים ונלמדים הופך את הסורק למזהה צורות, ולא סתם קצוות.
מה שרואים כאן >>

11. הוא חלק ממה שנמצא ב"מוח" שהרשת. לא AI גנרטיבי.
זה ה"פרצוף הסטטיסטי" שהרשת לומדת.
לא משוגע?
רשתות CNN בנויות ככה שעל התמונה נעשות הרבה קונבולציות עם גרעינים שונים (יותר מפעם אחת), על כולן עושים פולינג ומכניסים לרשת נוירונים קלאסית שהכל מחובר להכל.
וזה. עובד. >>

12. מבחינת כוונון, יש כל מיני משתנים (היפרפרמטרים) להתאים כשמחליטים על קונבולציות מעבר לגודל הגרעין (במקרה שלנו היה 2x2).
המעבר יכול להיות גס - אפשר להזיז את הקונבולציות בקפיצות של יותר מ1 כל פעם, זה מכונה Stride.
אפשר לשמר את גודל התמונה, ולהוסיף "ריפוד" לקונבולוציה,  Padding.

13. אפשר לבצע גם קונבולוציה מורחבת, מה שמכונה Dilation, נזקק מאפיינים באותה רזולוציה, אבל על שטח רחב יותר.
מאפשר לתפוס מאפיינים גסים יותר בלי "לשלם" על גרעין גדול יותר.

14. יש גם סוגים שונים של Pooling, לאו דווקא שלוקחים את המקסימום.
יש כאלה שסוכמים, עושים ממוצע ומה לא.
בקיצור - יש הרבה דברים שאפשר לכוונן כשבונים רשת קונבולוציה.
התכלית?
אפשר לבחור כל משימה שרוצים, זיהוי חיות או אנשים, כל תיוג שהתמונות מגיעות איתו, רגרסיה, מה שתרצו!>>

15. ארכיטקטורת הקונבולוציה היא "חוש הראיה" של הרשת, בלי קשר למשימת הלמידה והנה תראו,
עכשיו אנחנו יודעים איך רשתות נוירונים רואות.
וכן, כן, אני יודע, בא לכם לנסות לשחק באקסל הזה.
אז כמובן שתוכלו, הוא בקבוצת הטלגרם שלי! >>

16. ככה גם תוכלו לעשות קונבולציות על פיקסל-ארט של סבתא וגם לא לפספס תוכן חדש!
קדימה בואו:
https://linktr.ee/tsoofbaror
מה שווה לנסות?
מה קורה אם כל הערכים בגרעין הם 1? מה הגרעין עושה?
(זה גם קישור לגיטהאב, לקוד של הקונבולוציה)

הערות ומקורות!
אם בא לכם להעמיק בקונספט של קונבולוציה, ממליץ מאד על הסרטון של @3blue1brown:
https://www.youtube.com/watch?v=KuXjwB4LzSA
אה כן,
וגרעין לפעמים נקרא גם "פילטר".
סתם כדאי לדעת.

על רשתות קונבולוציה

אם תחפרו במוח של Midjourney, תוכלו למצוא אוזניים.
מסתבר שמודלי הדיפוזיה למיניהם מבינים, באמת מבינים מה הם רואים.
והרעיון? מה זה פשוט ומכונה DIFT.
אני - 🤯
תפסתי אתכם? יאללה 🧵>>
#פידטק #פידאטה #פידטכנולוגיה
(אה כן, אם שמתם Bookmark - תוסיפו ככה הקלקה על הלייק, זה סופר עוזר לי 🥰)

אזהרה לפני שנתחיל.
התלבטתי אם לדבר על הנושא הזה, כי כדי להבין מה קורה בו צריך הבנה של קונספטים שלא יהיה לי תקציב להסביר פה עד הסוף.
אם אתם מרגישים שההסברים הם.. 60%.. זה מה יש, אבל אני מספיק בטוח שהרעיון הכללי הולך לעבור ושווה את זה.
אז גם אם יש משהו שחצי ברור, זרמו איתי. >>

1. נתחיל במודלי דיפוזיה.
אלה שמייצרים תמונות.
עוד יגיע שרשור רק עליהם, אנסה לזקק כאן את מה שחשוב כדי להבין את מה שהחוקרים הראו.
מודל דיפוזיה הוא מודל שלומד לנקות רעש.
בתהליך האימון שלו מכניסים לו תמונה, ולאט לאט "מרעישים" אותה עד שהיא בלאגן מוחלט והמודל לומד לשחזר אותה. >>

2.  עד כאן, הבנו.
אפשר לבצע הרעשה ושחזור גם כשבתוך המודל מוטמע טקסט שמתאר את התמונה.
ואז, בסופר הפשטה, כשאנחנו מכניסים רק טקסט למודלים האלה הם מייצרים רעש אקראי ובעצם "משחזרים" את התמונה באיטרציות, כל פעם קצת, מותנית בטקסט.
נשמע פשוט?
וול, לא. מודה ומתוודה שיש שלבים בתהליך >>

3. שהמודלים האלה עושים שאני לא מבין עד הסוף.
נמשיך.
בגלל שבעצם בכל שלב בתהליך נכנסת תמונה ויוצאת תמונה, אנחנו מקבלים מודל ענק ואיטי.
למה?
תמונה מרובעת עלובה של 64 פיקסלים בצלע היא בעצם.. 12k פיקסלים.
למה? כי זה 64*64, ואז כפול 3 עבור כל ערוץ - אדום, ירוק, כחול. >>

4. לכן מה שעושים הוא אימון על תמונות ברזולוציות נמוכות, ושימוש במודלים אחרים שיודעים להעלות רזולוציה.
ואז בא Stable Diffusion ועשה משהו חדש.
בוא ניקח מבנה שאנחנו מכירים (אנחנו לא, תכף נכיר) של Encoder-Decoder, נעשה את הדיפוזיה על איזה מבנה דחוס ונוח, ואז נייצר תמונה. >>

5. מה זה אומר?
מדובר על חלק במודל ש"דוחס" את הפיקסלים לייצוג קומפקטי יותר, שמחזיק את האינפורמציה של התמונה בתוכו.
מי שכבר בוגר כמה שרשורים שלי יכול לדמיין את זה.
מצד אחד של הרשת נכנסת תמונה, ומהצד השני צריכה לצאת אותה תמונה, כשבאמצע יש צוואר בקבוק >>

6. שהוא בעצם אותו ייצוג דחוס.
אם תמונות מצליחות להכנס ולצאת בדיוק אותו דבר - הדחיסה עובדת!
בכל מקרה, החבר'ה של סטייבל דיפיוז'ן לקחו את הרעיון הזה, וצמצמו בהדרגה את התמונות הכבדות למרחב קומפקטי עליו ביצעו את אותה דיפוזיה, ולאחר מכן שחזרו את התמונה.
שימו לב, יש פה דאבל >>

7. "שחזור".
בהתחלה אנחנו דוחסים את התמונה הרועשת למרחב "קטן", קומפקטי.
בתהליך הדיפוזיה יש "שחזור" מרעש + טקסט מַתְנֶה דחוסים לתוצאה דחוסה.
לכן צריך שוב לשחזר, מתוצאה דחוסה לתמונה.
מקווה שלא בילבלתי.
עד כאן סבבה, נעשה בעתיד שרשור מקיף על דיפוזיה. >>

8. החוקרים בDIFT עשו דבר מדהים בעיני.
הם אמרו טוב, בואו נסתכל רגע על הייצוג הדחוס הזה.
אנחנו יכולים לראות לאן, לדוגמא, האף של הקואלה ממופה בדחיסה.
ממש איזה מספרים מייצגים את האף.
התמונה למטה מדגימה איך נראה אותו מרחב קומפקטי (בהקשר אחר, אבל אותו רעיון) >>

9. עכשיו בוא נסתכל על האף של הדב. והשועל. וגם של דני פה בצד.
יכול להיות שהם ממופים לאותו מקום?
כן!!!
תראו את התוצאה (נקודה אדומה).
אנחנו מסמנים את המקור של הברווז, והוא ממופה למקורות של כל שאר התמונות.
והאוזן של הדב.
והגשר-שמחזיק-את-המיתרים-של-הגיטרה!
כל כך פשוט, כל כך חכם. >>

10. רגע, לפני למה זה טוב.
אספר על עוד תחכום.
התמונות שאנחנו רואים כאן מג'ונרטות.
כלומר, יש שליטה מלאה בתהליך ואפשר לראות בדיוק איך הרעש הופך לתמונה, ולמצוא את המיפוי בהתאם.
אבל איך עושים את זה עם תמונות אמיתיות?
המודל לא מקבל תמונה כקלט.
גם כאן, עשו משהו מגניב >>

11. לקחו תמונה אמיתית.
הרעישו אותה מלאכותית כמו שהמודל מכיר,
הכניסו ל"אמצע" המודל, והעבירו אותה כמו השתלת איבר במטופל.
האפקט אותו אפקט, האף אותו אף, הסנטר אותו סנטר - זה עבד באותה איכות!
תראו את המיפוי הזה.
תאורה שונה. זווית שונה.

12. עכשיו הנה הכותרת של השרשור.
באותו מרחב דחוס המודל מבין מה זה רגל, מה זה גלגל, ומה זה עין.
המיפוי עובד על הרעיון המופשט.
הוא לא לומד עוד רגליים של כלבים לפי דימיון, הוא מבין מה זה רגל.
כי תאכלס, יש רעיון של "רגל סטטיסטית" בדחיסה של המודל.
זה מתחבר לשרשור קודם שלי על למה >>

13. בעצם רשתות נוירונים לומדות.
כשלמדתי פילסופיה הפרופסור שלימד אותי צייר לי משושה, ושאל אותי מה זה. עניתי "משושה", הוא ענה "טעות".
"זה לא משושה".
הוא גם על דף, בעפרון, ואחת הצלעות קצת עקומות.
לך יש במוח רעיון מופשט שנקרא "משושה" שאתה משליך על המציאות, >>
twitter.com/tsoofbaror/status/1659249069946961985

14. ומנסה, עבור כל דבר שאתה רואה, להתאים את אותו רעיון סטטיסטי.
כשאנחנו, אנשים, מסתכלים על משהו אנחנו מנסים לחשוב על הקונספט הגדול, ולהבין אם מה שמול העיניים שלנו הוא דגימה ממנו.
יש, אי שם במרחב האידאות הדחוס של המודלים האלה את הרגל הסטטיסטית, הפרצוף הסטטיסטי, הגלגל הסטטיסטי. >>

15. לכן השתמשתי במילה "להבין".
זה בעצם, לעניות לדעתי, להבין (או להכליל).
המודל מחזיק את הרעיונות המופשטים ומשתמש בהם ליצירה, קצת כמו אמן.
בשום שלב לא אמרנו לו ללמוד בצורה הזו!
זה לא אנושי להחריד?
טוב, סליחה, נהייתי עמוק, בואו נחזור לצחוקים וישומים.
תראו, זה עושה פילטרים! >>

16. ובצורה רצינית יותר, אפשר להשתמש בטכניקה פרקטית גם לסגמנטציה, בידוד של איזורים בתמונה.
הDINO הזה הוא מודל שמנסה לממש רעיון דומה על ארכיטקטורה אחרת, שהיא לא אותם מודלי-דיפוזיה-מייצרי תמונות.
רואים שה"הבנה" של מודלי הדיפוזיה טובה הרבה יותר. >>

17. אבל בעיקר - ניצוצות, ניצוצות של בינה.
כאמור, התלבטתי אם לכתוב על זה, כי כדי להבין טכנית צריך להכיר רשתות קונבולוציה (CNN), Unet ועוד כל מיני רעיונות.
בכל מקרה, מה שתפס אותי זה המהות הפילוסופית ולאו דווקא הטכני, לכן אני מרגיש שזה שווה את זה.
מקווה שצלחנו את זה יחד 😄


אם זה השרשור הראשון שלי שאתם קוראים, היי!
מוזמנים לחקור איתי את הקישקע של הAI,
כל פעם קצת אחרת.
זה הזמן לעקוב אחרי:
https://twitter.com/tsoofbaror
מזמין אתכם לרטווט ולהגיב לציוץ הראשון אם אהבתם,
ולהתעלם אם השתעממתם. 😍
לא רוצים לפספס כלום? בואו לטלגרם שלי:
linktr.ee/tsoofbaror

מקורות ותוספות!
המאמר עצמו: https://arxiv.org/pdf/2306.03881.pdf
בלוג מורחב עליו: https://diffusionfeatures.github.io/
סרטון קצת יותר מקיף על דיפוזיה: https://www.youtube.com/watch?v=1CIpzeNxIhU

DIFT

בואו נתכנת יחד רשת נוירונים! (חלק א')
לא יודעים לתכנת? נפלא! בואו תראו איך זה נראה.
יודעים לתכנת? נפלא יותר! יש גיט בסוף.
סליחה, בתור "אינפלואנסר AI" הנה הכותרת המתבקשת:
🤯🤯🤯 לא תאמינו כמה זה פשוט 🤯🤯🤯
אבל באמת.
בואו איתי 🧵>>
#פידטק #פידאטה #פידטכנולוגיה

1. נתחיל בבסיס.
אני יוצא מנק' הנחה שאנחנו יודעים, בגדול, איך רשת נוירונים עובדת.
אם לגמרי לא, אני ממליץ להתחיל מהשרשור הזה.
היום נאמן רשת נוירונים לקלסיפיקציה (סיווג) - ניסיון לחזות האם הלקוח יוצא מרוצה. >>
twitter.com/tsoofbaror/status/1564335495559221249

2. גילוי נאות: כתבתי את הרשת הזו לגמרי עם ChatGPT.
העניין כזה - זה לא תחליף.
הוא טעה המון, הייתי צריך לתקן אותו בקטנות, אבל הוא חסך לי מלא זמן של כתיבה סזיפית.
שימו ❤️!
אשתמש פה בהמון מושגים מהשרשור המצורף.
אם קראתם, פתאום תראו את הכל מתחבר >>
https://twitter.com/tsoofbaror/status/1664576595137527810

3 . כרגע אנחנו לוקחים כמובן מאליו שהדאטהסט שלנו מוכן ונקי לכניסה לרשת. בחלק ב' נדבר על איך מכינים דאטה לרשת נוירונים.
יפה.
אז מה התיוג?
היום נרצה לחזות את מידת שביעות הרצון של לקוחות חברת תעופה.
הבעיה היא בעיית סיווג בינארית - לקוח יכול להיות מרוצה או לא מרוצה. >>

4. מה המאפיינים?
גיל, מגדר, באיזה מחלקה טס ותשובות מספריות לכל מיני שלבים בתהליך.
נניח "כמה היית מרוצה ממיקום הגייט מ1 עד 5?".
יש לנו סה"כ 22 מאפיינים.
הפלט שלנו יהיה מספר בין 0 ל1.
אם הוא יהיה קרוב יותר ל0, נחליט שזה לקוח שיהיה לא מרוצה.
אם ל1 - לקוח מרוצה.
הבנו? הבנו. נמשיך >>

5. הנה הרשת.
גם אם אין לכם מושג בתכנות - תראו כמה מעט שורות. זה כל הקוד.
את הרשת בניתי בPytorch, ספרייה יעודית בפייתון.
מה רואים?
הגדרת "אובייקט" (class) בשם רשת נוירונים.
הכנסת שכבת כניסה,
שכבות חבויות בהתאם לקלט שהאובייקט מקבל.
ולבסוף שכבת יציאה.
הפונקציה השניה היא Forward >>

6. והיא פשוט העברה של הקלט בכל שכבות הרשת, עד התוצאה בלולאה.
בשלב הבא נחלק את הדאטה שלנו לסט אימון, אימות (ולידציה) ובחינה.
כאמור, "קופסא שחורה" לטובת השרשור הזה. חילקנו.
נמשיך בלהעביר את הדאטה לכרטיס המסך (GPU), שעליו רשת הנוירונים תתאמן.
סופר משמעותי למהירות האימון. >>

6. עכשיו - היפר פרמטרים!
גודל הקלט - ככמות העמודות בדאטה.
שכבות חבויות - החלטה שרירותית, אסביר בהמשך.
קצב למידה - גם שרירותי, אבל אלה סדרי הגודל.
מספר אפוקים - כמות הפעמים שעוברים על כל הדאטה.
גודל באץ' - כמה דגימות מעבירים ברשת לחישוב כל נגזרת. >>

7. הגדרנו את הרשת, עכשיו יצרנו אותה (58)!
כעת נגדיר את הלוס - BCE, "אנטרופיה בינארית".
רגע, בעברית.
מהרשת יוצאים Logits - מה שהרשת מוציאה, מספרים.
BCE משתמש בסיגמואיד, שלוקח כל Logit והופך אותו למספר בין 0 ל1.
אחרי שעשינו את זה, אפשר להסתכל על המספר כהסתברות ללקוח מרוצה (1)  >>

8. עם ההסתברות מחשבים אנטרופיה.
מה זה אנטרופיה?
הנוסחה בגדול, ממירה את הפער בין הרצוי (0 או 1) למצוי (הסתברות) למספר כמותי.
ככל שגדול יותר - הפער גדול יותר.
זה לוס.
באופטימייזר בחרנו בADAM. לא ארחיב כאן, זה מצדיק שרשור.
בקצרה: סוג של ממוצע נע לגרדיאנטים לאימון מהיר ומדוייק. >>


9. הגדרנו הכל בשתי שורות, נתחיל לאמן.
בתחלת כל אפוק נערבב את הדאטה, ונעביר כל באץ' ברשת.
תראו כמה זה פשוט - model(batch_x) מעביר את הבאץ' בפונ' הForward שהגדרנו בציוץ מספר 5 (שורה 93).
כל הטרלול של האימון קורה בשתי השורות בסוף.
בשורה 98 חישוב גרדיאנט.
ב99 צעד דיסנט.
סה-טו >>

10. מעולה, סיימנו באץ'?
נתחיל בלבטל את חישוב הגרדיאנטים (שורה 105).
אחרי זה נבדוק את הביצועים של הרשת על הסט שהיא למדה, האימון, וגם על סט האימות.
הביצועים במקרה שלנו הם הדיוק - כמה לקוחות הרשת סיווגה כמו שצריך.
את זה נעשה בכל סוף אפוק, כדי לראות התקדמות.
בסוף נוציא גרף!

11. מעולה.
נגמר האימון.
נעשה את אותה פעולה על סט הבחינה, ונקבל את הדיוק של הרשת שלנו על סט שהיא מעולם לא ראתה.
שימו לב!
את הרשת בונים.
נשחק עם כמות וגודל השכבות, עם קצב הלמידה, עם גודל הבאץ'.
כל פעם נראה את הביצועים של הרשת על סט האימות תוך כדי האימון, אבל לא ניגע בסט הבחינה. >>

12. רק בסוף בסוף, אחרי שבנינו את הרשת, נריץ את הבדיקה על הסט הבחינה פעם אחת בודדת, לא יותר.
ככה יש לנו "טסט פנימי" שהוא סט האימון, ו"טסט חיצוני" שהוא סט הבחינה.
כנראה שבסוף, כשנרצה להשתמש ברשת, נאמן אותה שוב על כל הדאטה - כי חבל לבזבז דאטה בצד.
תוצאות!
בואו נראה תוצאות! >>

13. בגרף השמאלי - הלוס בכל אפוק.
בימני - הדיוק בכל אפוק.
מה רואים בתמונה?
Over Fitting!
אפשר לראות שהדיוק על סט האימון עולה ועולה, אבל הדיוק על סט האימות עולה.. עולה.. ואז יורד.
הרשת ענקית, ואימנו 100 אפוקים.
אנחנו רואים שהתוצאה הכי טובה מגיעה סביב אפוק 15.
בואו נקטין את הרשת. >>

14. מרשת ענקית של 5 שכבות ואלפי נוירונים, הקטנתי אותה לשכבה אחת של 256 נוירונים, אחריה 32 וזהו.
מה קרה?
נעלם הOver Fitting! הרשת לא מספיק מסובכת, לא עם מספיק פרמטרים כדי להצליח לעשות את אותה התאמת יתר וללמוד את הרעש שבדאטה, במקום את הבעיה.
בואו נקטין את הרשת עוד יותר >>

15. עכשיו שכבה אחת, נוירון אחד בודד.
התוצאות לא רעות.
מגיעים לאיזה 80% דיוק, לא הרבה פחות מרשת מסובכת.
למה?
הדאטה פשוט.
מספיק צירוף ממושקל פשוט של כל המשתנים כדי לתת תחזית טובה.
אגלה גם ש"הרעשתי" את הדאטה כדי להקשות.
על הלא רועש - רגרסיה לוגיסטית הייתה מספיק לגמרי! >>

16. התהליך שעשינו כאן, של שינוי השכבות נקרא "כיוונון היפר פרמטרים".
עושים אותו שוב ושוב, עד שמוצאים את הקונפיגורציה הכי יעילה.
אין דרך טובה לעשות את זה - לאמן שוב ושוב ולנסות.
ו.. סיימנו!
מה שבעיקר יפה זה כמה זה קל היום.
קצת יותר מ100 שורות קוד.
בחלק הבא אדבר על איך הכנתי את >>

17. הדאטה לכניסה לרשת.
הקוד זמין לכולכם בGitHub שלי, שגם הוא בלינקטרי יחד עם קבוצת הטלגרם שאם-עוד-לא-הצטרפתם-עכשיו-זה-הזמן-ככה-לא-תפספסו-כלום:
https://linktr.ee/tsoofbaror
נסו לשחק עם ההיפרפרמטרים בעצמכם!
אם ניסיתם - פרסמו פה את התוצאות!
מוזמנים להעזר בי בתהליך.

אם זה השרשור הראשון שלי שאתם קוראים, היי!
מזמין אתכם לחקור איתי את הקישקע של הAI,
כל פעם בדרך אחרת.
זה הזמן לעקוב אחרי:
https://twitter.com/tsoofbaror
מזמין אתכם לרטווט ולהגיב אם אהבתם,
ולהתעלם לגמרי אם השתעממתם. 😍

דיסקליימר למומחים.
דברים שלא עשיתי כדי לפשט: לא השתמשתי בדאטהלואדר, לא הראתי מטריצת מבוכה, לא עשיתי פיצ'ר סלקשן, לא התעסקתי עם פונ' אקטיבציה שונות, גודל הבאץ', לא בדקתי אופטימייזרים אחרים ועוד מלא.
הכל כדי לתת Overview פשוט על התהליך בשרשור ארוך.
נא לקטול במשורה.

תכנות רשת נוירונים - חלק א'

לייבטויט מהשיחה של סאם אלטמן באונ' תל אביב.
לא בלייב, כי לא הייתי שם.
רואה את ההקלטה וזורק כאן את כל המחשבות שלי פלוס תמלול.
אז:
סם אלטמן, מנכ"ל OpenAI והשם שחלקכם פחות מכירים - איליה סוצקבר, המדען הראשי של OpenAI שהוא ישראלי לשעבר שלמד פה בארץ. >>
https://www.youtube.com/watch?v=mC-0XqTAeMQ

טוב, סאם מתחיל לדבר איך הוא למד קצת באוניברסיטה, לא הצליח והלך להקים סטארטאפים במקום ללמוד. אחלה, הלאה.
"מה הופך את OpenAI למובילים, למרות כל המתחרים?"
סם: "זאת המומחיות שלנו, יש לנו אוסף כשרונות מדהים ואנחנו חברה שיש בה תרבות פנימית חזקה של יוזמה והמצאה."
טוב, לא תשובה מפתיעה >>

איליה: "אני יכול להוסיף 5% על סם - וזה אמונה. מי שמאמין לא מפחד" בתרגום חופשי.
כאן אני מסכים איתו.
אחד הדברים שקורים הרבה בAI זה שצריך לחתור הרבה זמן באפלה עד שמגיעים למשהו שעובד. צריך להאמין בדרך, לא "ללכת על בטוח" ולנסות רעיונות חדשים כל הזמן שיתכן ויכשלו מהתחלה, ועל זה נראה >>

לי שהוא מדבר.
"הקדמה של הAI מובלת בתעשייה. מה תפקיד האקדמיה?"
*שתיקה*
שתיקה שאומרת הכל.
ואז איליה אומר את מה שאני מרגיש על בשרי: "כוח מחשוב והנדסה".
האקדמיה צריכה תשתית, וצוות שלם שיתחזק אותה.
מחשבים, GPU's וכו.
ואולי תגידו.. בסדר, אפשר בענן!
נכון. מישהו צריך לנהל את זה. >>

תקציבית, רעיונית, לאשר שעות מחשב, לנהל תקציבי עתק ולהבין מה החוקרים מבקשים.
זה ממש ממש לא מובן מאליו, ביחוד שפתאום מוציאים $100k על אימון מודל והוא כושל, וזה קורה.
הוא ממשיך ואומר את מה שהמנחה שלי אומר - האקדמיה לא תנצח בקדמה. בעולם הזה היא צריכה לחקור את התעלומות. הוא משווה >>

למידה עמוקה לאלכימיה. נכנס דאטה, יוצא טקסט. המחקר על מה קורה בפנים, איך מודדים את זה, מבינים את זה. יש מספיק בעיות לאקדמיה שהן לא לייצר את הChatGPT הכי טוב.
מאד מסכים איתו, שוב.
בינתיים נראה שרק איליה מדבר.
בכל מקרה, הוא ממשיך ואומר - "חוקרים לנו את המודלים. אוניברסיטאות >>

קיבלו גישה לGPT3 עוד לפני שבכלל היה לנו מוצר וחקרו אותו."
שאלה מעולה הבאה - "השקיפות המדעית בסכנה. המודלים שלכם אצלכם בכספת ולא משוחררים לכולם. מה יש לכם להגיד בנושא?"
עכשיו סם מדבר.
"כבר שיחררנו חלק, ועוד נשחרר בעתיד, אבל אני לא מאמין שצריך לשחרר הכל. המודלים של היום >>

מעניינים, יש בהם קצת שימוש אבל הם פרמיטיביים ביחס למה שאנחנו מתכננים לעתיד."
"בכל מקרה, אתה לא רוצה שנשחרר AGI החוצה. זה מסוכן. אנחנו עושים את החושבים שלנו וחיים את המתח הזה, נשחרר בהדרגה".
טוב נו. זה גם בסדר להגיד שאתם חברה וחלק מהדברים שאתם עושים זה הפטנט שלכם. זה לא פשע. >>

הגענו לסיכונים - איבוד מקומות עבודה, שימוש לרעה בסוכנים אוטונומיים והכי גרוע - שאיזה סוכן כזה ישתחרר ויתחיל לעשות מה שבא לו סטייל טרמינייטור.
"איבוד מקומות עבודה, בטח. אולי לא בשם הזה, זה ישפיע על מקומות העבודה. נכנסים לתקופה של חוסר ודאות כלכלית"
"לגבי האקרים - גם כאן, כן. >>

"אנחנו לא מדברים על הAI של היום, אלא על זה של מחרתיים. זה שיכול לרפא את כל המחלות, אבל גם לייצר מחלה חדשה. אנחנו צריכים IAEA (ארגון שמתעסק בניתוב האנרגיה הגרעינית למטרות טובות) גם לAI."
בקיצור, התשובה לשתי השאלות - כן וכן, ואין מה לעשות.
לא תעצרו את זה.
לגבי משהו בסגנון >>

טרמינייטור: "זאת תהיה טעות לבנות AI שאנחנו לא יודעים איך לשלוט בו".
כולם צוחקים.
טוב, רגע לא בצחוק, מודלי שפה כמו GPT4 צריכים מאות GPU's רק כדי לעבוד, לא כדי להתאמן, ברמה שזה עולה המון כסף.
זאת צריכה להיות מכונה פיזית, וזה צריך להיות מחובר לחשמל.
בקיצור, זה אמנם איום שב"אופק" >>

אבל באופק הרחוק יחסית. השניים הראשונים קרובים מאד, וסם מיד מוסיף ש"הBoost לפרודקטיביות הוא כל כך הרבה יותר משמעותי מההשפעות השליליות".
וממשיך ואומר את מה שאני גם חושב - עבודות ילכו, עבודות יבואו.
אבל הדבר הבא שהוא אומר מעניין יותר.
הוא מספר שכשDeep Blue ניצח את קספרוב בשחמט >>

אנשים אמרו שזהו, שחמט לא יעניין יותר אף אחד, מחשב מנצח. זה כמובן רחוק מהמציאות - שחמט פופולארי מאיי פעם. Dalle2 יכול לייצר אומנות נפלאה, אבל זה לא מה שירחיק אנשים מאומנות.
"חתמת על אמנה שקוראת להתכונן לAI כאיום על האנושות. מה אתם עושים בעניין?"
סם: "אנחנו לא מדברים על המערכות >>

היום. לא המודלים שאנחנו, סטארטאפים אחרים או אפילו הקהילה מפתחים."
אז על מה האמנה הזו? על ההבנה שאנחנו מתקדמים בקצב משוגע, וצריך להתכונן לאפשרות שאותו תרחיש "סוכן כל יכול" בדרך.
זה הכל.
זה עוד רחוק.
מסכים. הלאה.
הוא ממשיך ומציע ארגון שיבצע רגולציה על כל מה שקשור בכוחות מחשוב >>

אדירים, שיתן רישיון לשימוש במודלים וכו.
טוב. הגיוני.
ממשיכים בלדבר על "לאן מכאן?", סם אומר ש"מרגש אותו שAI מקדם את המחקר המדעי", ממשיכים בשאלה על התחממות גלובאלית.
פה הוא אומר משהו מעניין: "ברגע שתהיה לנו בינה מלאכותית מספיק חזקה, ההתמודדות עם ההתחמות הגלובאלית לא תהיה קשה >>

במיוחד."
איליה מסביר: "כדי לנצח את ההתחממות הגלובאלית צריך לוכדי פחמן. הרבה כאלה, וכאלה יעילים. בינה מלאכותית תמצא את הדרך והצורה לבצע את זה, ופוף אין התחממות גלובאלית".
הסבר לא טוב בעיניי.
אפשר להגיד את זה על כל דבר. מזלג עוזר לאנשים לשבוע, אנשים שבעים חוקרים טוב וככה >>

יפתרו את ההתחממות הגלובאלית. עד שיהיה לנו AI כזה, האימון של כל מודל משחרר כמויות עצומות של פד"ח לאטמוספירה.
הAI כרגע חלק מהבעיה, לא מהפתרון.
לא אהבתי.
"מה המוצר הכי 'עתידני' שאתם מפתחים?"
אמרו כמה דברים, אבל סם אמר "אני רוצה שהעולם לא יתפעל מאיתנו יותר. ChatGPT היה בום >>

אבל אני רוצה שמעכשיו ההתפתחות פשוט תהיה טבעית, טובה ורצופה".
זה מתחבר לתחושה שלי - זה החזון. הבינה המלאכותית כאן כדי להשאר, זה לא קריפטו, זה מהפכה בסדר גדול של הwww. ונכון שהייתה בועת אינטרנט, אבל האינטרנט לא נעלם.
אולי זה שהמצב גרוע בשווקים טוב לנו. לא קמות חברות AI על פארש >>

ששוחות באמבטיית כסף ממשקיעים ואז קורסות כין אין מוצר, והתחום מתקדם. המשבר באיזה שהוא מקום מווסת את הבועה.
שאלות מהקהל:
"האם GPT4 מבוסס על הטכנולוגיה שכולנו מכירים, או שיש בו איזה רוטב סודי שלכם?"
איליה אומר, בגדול, פרפרזה שלי: "אין לכם סיכוי. כשהאופן סורס יגיע לכוח של GPT4,  >>

אנחנו כבר נהיה בGPT28. בסוף יש פה חברה עם חוקרים ומשאבים שאין בקהילה".
איף, איזה גסות רוח השאלה עם המילה "לובוטומיה לGPT4". לא מתכוון להתייחס בכלל.
"מי הם הסקטורים שלדעתכם הכי יושפעו?"
סם: "אחת הסיבות שאנחנו עושים את הסיבוב הזה (הם עושים שיחות בהמון מדינות) זה כדי לדבר עם >>

אנשים ולהבין איך הם משתמשים במוצרים שלנו ומה הם עושים איתם".
הוא ממשיך: "אני יושב בשיחות עם מפתחים, ואין 2 שעושים אותו דבר או אפילו באותו סקטור. התשובה, בגדול, זה הולך להשפיע על כ-ו-ל-ם".
@DrorGloberman שואל "אם AI מסוכן, למה אתה מפתח אותו? ואם יפעילו עליכם רגולוציה, תצייתו או >>

תנסו להתחמק כמו שעושים בפייסבוק?"
סם: "שאלה טובה והוגנת".
"צריך לאזן בין ההבטחה הבלתי רגילה של הטכנולוגיה הזו לשפר לנו את החיים, יחד עם הסיכונים".
"אני חושב שאם אנחנו מהעתיד נראה איך אנחנו חיים עכשיו בעוד כמה אלפי שנים, זה יראה לנו יותר גרוע משאנחנו חושבים על איך חיו אנשים פה  >>

לפני אלפי שנים, אתם מאמינים שסבלו פה מעוני? שלא כולם קיבלו חינוך? שמתו ממחלות? זה יראה ברברי. יש לנו חובה המוסרית להגיע למקום הזה, ואת זה נעשה עם AI. זה בלתי ניתן לעצירה.
לא נצליח לעצור את זה, נצטרך לנהל את הסיכון".
אבל פה מגיע משהו מעניין שהוא אומר: "אין לנו את אותה מערכת >>

תמריצים שיש לפייסבוק. כשהקמנו את OpenAI אחת השאלות הראשונות ששאלנו את עצמנו היא 'מה יהיה המודל הכלכלי שיאפשר לנו לקבל רגולציה בצורה הכי טובה', ואנחנו עושים סיבוב מסביב לעולם כדי לעורר את המודעות שצריך רגולציה. ברור שנציית."
והוא עוד אומר: "ההבדל אל מול פייסבוק שפה לאנשים >>

שמפתחים את הטכנולוגיה הזו עומדת ה"סכנה לאנושות" מול העיניים."
טוב. ימים יגידו.
לא ברור אם הם באמת רוצים את הרגולוציה הזו, או מקדימים תרופה למכה ורוצים לעצב אותה בדמותם.
גם אם זה קצת מזה וקצת מזה, אני בוחר להאמין בטוב.
השאלה הבאה לא כל כך עניינה אותי, אבל איליה אומר ש>>

יכולות הראיה של GPT4 בדרך. וזה סופר מרגש.
תוכלו להעלות לו תמונה של המטבוחה של סבתא ולשאול אותו איך מכינים.
שאלה הבאה סופר מעניינת, על "we have no moat" שעליו כתבתי בעבר (שרשור מצורף) >>
https://twitter.com/tsoofbaror/status/1654220441979068416

סם: "מה שאנחנו טובים בו הוא להבין מה הלאה. קל להעתיק כשאתה יודע מה צריך להעשות, קשה להבין לאן להתקדם".
"השלבים בדרך לסופר-AI רבים. כל פעם שנתקדם, מישהו יעתיק וזה בסדר."
מאד יפה בעיניי.
אנחנו באמת לא רואים אף חברה שמתקדמת ככה.
Bard כביכול עם יכולות נוספות, אבל ביצועים לא משהו >>

עכשיו היוטיובר מר שיבולת שואל על Roko's Basilisk, הרעיון שבסופו של דבר בינה מלאכותית מספיק חזקה תעניש את כל מי שלא תרם לפיתוח שלה.
איליה: "זה לא בדיוק מטריד אותנו, אבל אנחנו מתעסקים בלי הפסקה בעניין הזה שיום אחד יהיה פה סוכן שיהיה יותר חכם מכולנו. יעשה מדע, הנדסה ורפואה >>

יותר מהר מצוותים ענקיים של מדענים. זה תרחיש הייחוס. הAI יבנה AI בעצמו"
טוב, More Of The Same. איליה מדבר על זה שAGI הוא עוד שלב באבולוציה. אין בשורה.
כלכליסט - שואלים על "Data Dignity" - כל הסיפור של "האם יש זכויות לאמן שמודל מאומן על הדאטה שלו".
סם עונה את התשובה >>

הקבועה. "המטרה של המערכות היא To Reason, ובתהליך הן נחשפות להרבה דאטה, אבל אין לנו עוד את המודל לאיך לתגמל יוצרי תוכן".
התשובה לא השתנתה מהסנאט.
זה באמת משהו שסופר קשה לפתור.
אקדיש לזה שרשור בעתיד, זה לא המקום.
נמשיך >>

קצת על ההקשר הישראלי, אחרי שנציג גל"צ שואל מה הם מחפשים כאן. סם ממשיך להשתמש במונח Talent Density ואומר שאנחנו אלופים בזה. מדינה קטנה עם המון שכל.
הוא גם משבח את היזמות הישראלית. הוא יהודי, אגב.
"מה צריך כדי לעבוד בOpenAI?"
סם: "תשובה גנרית ואמונה בסופר איטנלג'נס".
נוי שוין, >>

את השני יש לי בוודאות.
 יעלה ויבוא מנכ"ל בני גורן.
"איך תשפר יכולות העברית של ChatGPT?"
"מה החזון שלך בהקשר של חינוך וAI?"
איליה: "אנחנו בדרך לעולם שבו לכל תלמיד יהיה מורה פרטי. עוד לא שם, אבל בדרך".
לא ענה על העברית.

"מה העתיד של מדעני המחשב? תהיה לי עבודה עוד 10-15 שנים?"
סם: "אני כבר לא כותב קוד, אבל העובדה שכתבתי היא אחת העובדות הכי חשובות בחיי".
"העתיד נמצא באנשים שיודעים ללמוד מהר, להתרגל לטכנולוגיות חדשות, להבין את הטעם של אנשים אחרים. יהיו שינויים מרחיקי לכת בשוק העבודה, אבל אני לא >>

מצליח לדמיין עולם בו אנשים לא עושים דברים בעלי ערך עבור אנשים אחרים".
פה אני מסכים ב100% ומשתדל ליישם בחיים שלי. אני חווה את עצמי כלומד מהיר מאד. אישית אני עורך וידאו, מעצב גרפי, ממדל ומדפיס בתלת מימד, מפתח אפליקציות, הקמתי עסק קטן כדי להתנסות בלהיות הבוס של עצמי ואפילו צולל >>

עם שלושה כוכבים ומעל 100 צלילות. האהבה לללמוד דברים חדשים היא באמת משהו שצריך להיות בדם של מי שרוצה למצוא את עצמו בעולם של עוד 20 שנה, ואני עושה ככל שביכולתי לא להוריד רגל מהגז.
שאלה אחרונה - "איך אתם רוצים שההיסטוריה תזכור אתכם?"
"הכי טוב שאפשר".
איזה סיכום, איזה סיכום... >>

יזם בן 17 מבקש טיפים וסם עונה לו שזה התקופה הכי טובה לסטארטאפים, קורא לי את המחשבות ואומר שאנחנו במהפכה כמו מהפכת האינטרנט.
"האדמה רועדת, וזה מה שאתה רוצה בסטארטאפ. ההזדמנות לייצר ערך עם טכנולוגיה חדשה לגמרי מגיעה לעיתים נדירות וכאן אנחנו נמצאים".
מעורר השראה לגמרי. >>

זהו.
טוב, אסכם רגע כי זה יוצא שרשור של איזה 40 ציוצים.
סה"כ, זה ממש World Tour. המון תשובות שאת רובן היינו יכולים לחזות מראש, אבל תמיד מרגש לשמוע אותן מהאנשים עצמם שמפתחים את הכלים שמפוצצים לנו את המוח.
כתבתי את כל מה שקורה כאן בלי שום סינון או עריכה, קצת תמלול, קצת זיקוק >>

וקצת אינפוטים משלי.
אשמח לדעתכם - הייתם רוצים עוד תוכן כזה?
היה מעניין?
מה דעתכם על השיחה הזו?
ואם קראתם עד כאן, וואו, כל הכבוד!
אתם בחזית הטכנולוגיה 😀 >>

אם זה השרשור הראשון שלי שאתם קוראים, היי!
מזמין אתכם לחקור איתי את הקישקע של הAI,
כל פעם בדרך אחרת.
זה הזמן לעקוב אחרי:
https://twitter.com/tsoofbaror
ולהצטרף לערוץ הטלגרם כדי לא לפספס כלום:
https://t.co/dFXNkQVtPg

מזמין אתכם לרטווט ולהגיב אם אהבתם,
ולהתעלם לגמרי אם השתעממתם. 😍

סאם אלטמן באונ' תל אביב

מורה נבוכים לAI!
שמעתם על המאמר החדש שטוען ש"יש אופטימייזר חדש לטרנספורמר שעוקף את אדם במזעור הלוס"?
נמאס לכם מכל מילות הבאזז האלה?
בשרשור הארוך מידי הזה נעשה דיבאזינג לכל הבאז.
מוכנים? 25 מושגים ומונחים, שרשור ע-נ-ק לסופ"ש 🧵>>
#פידטק #פידאטה #פידטכנולוגיה

1. דאטהסט ומודל.
המודל הוא בעצם הAI שפועל על הדאטהסט, שהוא הנתונים מהם הAI לומד.
המודל הוא ה"איך", הדאטהסט הוא ה"ממה" לומדים.
הדאטהסט הוא טבלה עם עמודות ושורות.
בדרך כלל מחלקים דאטהסט ל3 חלקים.
הראשון הוא סט האימון עליו המודל מתאמן. השני הוא >>

סט הולידציה, עליו תוך כדי תהליך האימון בודקים את ביצועי המודל, בלי שהוא מתאמן עליו.
השלישי הוא סט הבחינה, שנשמר בצד עד הרגע האחרון, לא נוגעים בו באימון. עושים עליו בדיקה פעם אחת בסוף כדי לייצג כמה המודל באמת למד.
השורות בדאטהסט הן הדגימות השונות, והעמודות מובילות אותנו ל: >>

2. פיצ'רים ומימדים.
פיצ'ר הוא מאפיין בודד של רשומה בבסיס נתונים.
פיצ'ר של רשומת "אדם" יכול להיות גיל, שם, כתובת מגורים, משקל, גובה או כל דבר אחר.
דאטהבייס יכיל הרבה רשומות בעלות פיצ'רים.
כשאני מתאר רשומה בעזרת 10 פיצ'רים, אני מתאר בעיה בה 10 מימדים.
בדרך כלל העמודה האחרונה היא >>

3. התיוג.
התיוג הוא משתנה המטרה אותו אני רוצה לחזות.
הוא יכול להיות רציף (טמפרטורה), קטגוריאלי (דגם) או משהו מופשט (תמונה, וקטור, סיום של משפט).
בעיות בהן המשתנה רציף נקראות בעיות רגרסיה.
בעיות בהן המשתנה קטגוריאלי נקראות בעיות קלסיפיקציה/סיווג.
לשאר אפשר להתייחס כ"משימת הלמידה".

4. למידה מונחית\Supervised Learning.
למידה מתוך סט נתונים מתוייג.
אם יש לי סט שמכיל המון עסקאות אשראי ותיוג לכל עסקה - "רמאות" או "תקין", אני יכול ללמוד לזהות הונאות בלמידה מונחית (סיווג).
אלגוריתמים פופולאריים - עצי החלטות, יערות אקראיים, רשתות נוירונים (בהמשך).
למידה לא מונחית?

5. למידה לא מונחית\Unsupervised Learning
למידה מנתונים חסרי תיוגים (כשאין).
מכונה גם אשכול\Clustering.
ניסיון לביצוע הפרדת הנתונים לקבוצות ולמידה מההפרדה הזו.
לדוגמא לקחת בסיס נתונים של קונים באתר קניות ולנסות למצוא תתי קבוצות בעלי מאפיינים דומים.
זו למידה חלשה יותר.

6. למידת חיזוקים/Reinforcement Learning.
שיטת AI בה קיים סוכן המקבל כקלט את מצב המציאות, מוציא כפלט את הצעד הבא ועליו מקבל פרס או קנס, ומזה לומד.
זאת הדרך בה לרוב מאמנים AI לשחק משחקים או לבצע משימות מורכבות, והדרך שבה אימנו את ChatGPT ממודל השלמת משפטים למודל שעונה בסגנון אנושי.

7. רשת נוירונים.
אלגוריתם שתכליתו לשערך פונקציה שמקבלת כקלט את הפיצ'רים ומוציאה פלט כלשהו, נניח התיוג, תמונה או משפט.
הרשת בנויה משכבות של "נוירונים".
כל אחד מהם מבצע פעולה מתמטית שנכנסת לנוירונים הבאים בשכבה הבאה.
כשרשת נוירונים היא ממש ענקית, זה כבר >>

8. למידה עמוקה (DL) ופרמטרים.
DL הוא תת תחום של לימוד מכונה שמתעסק ברשתות נוירונים גדולות מאד.
הן הרשתות שיכולות להוציא כפלט טקסט (ChatGPT) או תמונה (Dalle2, מידג'רני).
הפרמטרים הם ה"חלקים הזזים" ברשת העמוקה ואחראיים על היכולת להתמודד עם משימות מורכבות.
נוירון מורכב מכמה פרמטרים.

9. פונקצית לוס/Loss.
פונקציה שצריך להגדיר כחלק מתהליך אימון רשתות נוירונים.
המטרה של תהליך האימון הוא למזער אותה ככל שניתן.
היא מתארת את "כשלון" המודל על המידע אותו הוא לומד.
המזעור שלה - הוא בעצם הלמידה.
פונקציות מוכרות - MSE (סכום הריבועים הפחותים) והCross Entropy Loss.

10. הGradient Decent וקצב למידה.
האלגוריתם שבעזרתו ממזערים את הלוס.
הרעיון הוא לבצע נגזרת לפונקציית הLoss, ואם אתם זוכרים מהתיכון, עם נגזרות מוצאים מינימום.
באלגוריתם הזה מבצעים צעדים קטנים אל מזעור אותה פונקציית לוס.
בניגוד לפונקציות בתיכון, אי אפשר פשוט לגזור ולהשוות >>

לאפס.
השיטה הזו מחשבת לאיזה כיוון צריך להזיז את הפרמטרים ברשת כדי להקטין ככל הניתן את הלוס בהתאם לדאטה, ואז עושה צעד דיסנט קטן לכיוון הזה.
הגרדיאנט הוא נגזרת רב מימדית והמטרה היא לשנות הרבה פרמטרים בבת אחת, בכל פעם קצת כדי למזער את הלוס.
קצב הלמידה הוא ה"כמה קצת זזים" בכל פעם.

11. אפוק/Epoch.
מעבר של רשת הנוירונים על כל סט האימון תוך כדי ביצוע צעדי Gradient Descent.
ברוב המקרים יש צורך ביותר מאפוק אחד כדי למזער את הלוס.
שימו לב שלמרות שבגרף כתוב Test, הסט איתו בודקים דיוק במהלך האימון הוא סט הולידציה.
סט הבחינה נשאר בצד עד הרגע האחרון.

12. הMini Batch
דגימה אקראית של כמות קבועה וקטנה יחסית רשומות מתוך הדאטהסט. הדרך הרווחת לאמן רשת נוירונים היום.
מעבירים מיני באץ' ברשת ועושים צעד דיסנט אחד על כולו.
הוכח כמשפר את יעילות אימון הרשתות יותר מלהעביר אחת אחת, ופרקטי יותר מלהעביר את כל הדאטה ורק אז לחשב גרדיאנט בודד.

13. אופטימייזר.
מימוש מחוכם של Gradient Descent.
יש כל מיני דרכים למימוש הפעולה שנקראת Gradient Descent, גם בה יש חלקים זזים.
אופטימייזר יקבע כיצד לבצע אותה.
האופטימייזר הכי פופולארי היום נקרא ADAM.

14. ארכיטקטורה של רשת נוירונים.
הצורה בה הנוירונים השונים מחוברים זה לזה, הכמות שלהם, מספר השכבות וכדומה.
משפיעה על היכולות השונות של הרשת ללמוד.
החיבור הסטנדרטי נקרא Dense, והוא פשוט מצב שכל הנוירונים בשכבה אחת מחוברים לכל הנוירונים בשכבה הבאה.

15. רשת קונבולוציה.
ארכיטקטורת הסטנדרט היום בעיבוד תמונה.
קונבולוציה היא פעולה מתמטית שמבוצעת על כל הפיקסלים בתמונה ומזקקת מהם מאפיינים כמו קצוות, צורות שחוזרות על עצמן וכדומה.
רשתות קונבולוציה מתחילות משכבות קונבולוציה, ואחריהן בדרך כלל שכבות Dense עד הפלט.

16. טרנספורמר.
רשת עמוקה מיוחדת שטובה במיוחד בעיבוד שפה, אך לא רק.
מכילה "ראשי Attention", שזו בעצם צורה מיוחדת של הרבה שכבות בהן הנוירונים מסודרים כך שהם יוכלו לנתח חשיבויות וקשרים בין מילים בטקסט. הטכנולוגיה שבבסיס ChatGPT וכל מודלי השפה.
 מתחילים להשתמש בהם גם לעיבוד תמונה.

17. הRNN/LSTM - שתי ארכיטקטורות ששלטו בעיבוד סדרות לפני הטרנספורמרים.
רשתות שבנויות בצורה בה אפשר להכניס לתוכן רצף ארוך של מידע והן ידעו להתייחס אל רובו.
אם יש לכל מטופל 100 רשומות עם 20 פיצ'רים שמתארים כל שלב בטיפול, לא ארצה רשת שמקבלת קלט ומוציאה פלט, אלא מתמודדת עם כל הסדרה.

18. שיכון\Embedding.
תהליך בו אנחנו ממירים קלט שאיננו במספרים למספרים בצורה משמעותית.
לדוגמא, מחקר בשם word2vec יצר ייצוג מספרי (וקטור) לכל מילה, בצורה שבה
King-man+woman=king.
שיכון מתבצע על ידי העברה בתוך רשת נוירונים ושימוש במספרים שבשכבות הפנימיות כשיכון עצמו.

19. עצי החלטות, יערות אקראיים ובוסטינג.
עץ החלטות הוא אלגוריתם שמפצל את הדאטה שוב ושוב, כל פעם לפי הפיצ'ר הכי יעיל כדי לבצע סיווג או רגרסיה.
בסוף מתקבלת צורה של "עץ" שאפשר ללכת לאורכו ובכך לבצע את המשימה בצורה מאד ברורה ומוסברת.
יער אקראי הוא בעצם ערבוב של המון עצים שאומנו >>

קצת אחרת, כדי לייצר מודל "מגוון" עם הרבה דעות.
העצים מצביעים והרוב קובע.
גרדיאנט בוסטינג, או רק בוסטינג, היא שיטה בה מערבבים הרבה עצים "חלשים" ליצירת מודל חזק בדרך יותר מתוחכמת מסתם לבצע הצבעה של הרוב קובע. יש מיליון וריאציות איך לבצע את זה.
המוכרות - XGBoost, LightGMB, Catboost.

21. היפר פרמטרים\Hyper Parameters
שימו לב - שונה מ"פרמטרים"!
המספרים שקובעים את הצורה וצורת הפעולה של מודל לימוד המכונה.
פה נבין מדוגמא, הנה דברים שהם היפר פרמטר: ברשתות, מספר הנוירונים בכל שכבה, מספר השכבות, סוג השכבות, קצב הלימוד. בעצים - הגבלת עומק העץ, הנוסחה שלפיה >>

מחליטים איך לפצל את הדאטה.
בעצם ההיפר פרמטרים הם כל ההחלטות שצריך לקבל לפני שמריצים את המודל.
הם הכפתורים על לוח הבקרה שצריך ללכוונן לפני שלוחצים "שגר".
המציאה של ההגדרה הנכונה שלהם היא בד"כ אמפירית בניסויים, לא בגלל שיש תאוריה ענפה מאחורי מה כל דבר צריך להיות.

22. בעיות הOverfitting/Underfitting
מודל פשוט מידי לא יצליח לפתור את הבעיה.
מודל מסובך מידי יחבר את הנקודות בצורה OVER מתאימה ולא יצליח ללמוד להכליל, כלומר להתמודד עם מידע חדש שהוא לא ראה (למרות 0 טעות באימון).
אין דרך חד משמעית לדעת מראש איך לבנות נכון מודל.
ניסוי וטעיה.

23. הPrompt Engineering.
מודלי שפה אמורים להיות נגישים בשפה יום יומית. הגיעו חכמולוגים וגילו שאם הם מדברים איתם (=כותבים Prompt) בצורה מאד ספציפית, מקבלים תוצאות טובות יותר.
זה לא הנדסה. זה שם מפוצץ ללמצוא את הטקסט הכי מתאים.
נכון גם למודלים שמייצרים תמונות (Dalle2, מידג'רני וכו)

24. מודלי דיפוזיה\Diffusion Models.
אלה המודלים שמייצרים תמונות.
עובדים במשימה של "הרעשה" וניסון להחזיר את התמונה לקדמותה.
בשילוב עם טרנספורמרים, הם לומדים רעש שמייצג סוגים שונים של תמונות ויכולים לערבב אותן לפי דרישה.
הבסיס לכל טכנולוגיית התמונות שאנחנו מופגזים בה באופן מוגזם.

25. מדען נתונים.
מדען נתונים הוא מי שצריך להכיר את כל היתרונות, החסרונות, המגבלות והחוזקות של כל הכלים האלה, להסתכל על בעיה בעיניים ולחקור. להבין מה מתאים, איך מתאים, איך ליישם נכון ואיך למנוע מצבים של "הצלחה באימון וכישלון בקרב".
האלגוריתמים האלה רחוקים מלהיות Plug And Play >>

וכל זה בלי להתחיל לדבר על לפתח אותם, לשדרג אותם ולחשוב על רעיונות חדשים.
המון מהרעיונות שהצגתי פה הגיחו לעולם ב10-15 שנה האחרונות, זה מדע ממש חדש.
כל רעיון כאן נאבק על מקומו, זה התחיל ב20, עלה ל25 וקיבלתם עיתון.
דברים שלא נכנסו: PCA, VAE, GANs, EDA, Transfer Learning >>

ועוד המון שבטח אתחרט עוד דקה שלא פה.
ו.. זהו!
וואו, איזה שרשור לסופ"ש.
מקווה שנהנתם.
רוצים לא לפספס אף שרשור שלי?
בואו לערוץ הטלגרם השקט, תקבלו התראה כל פעם שעולה שרשור חדש!
https://t.co/dFXNkQVtPg

אם זה השרשור הראשון שלי שאתם קוראים, היי!
מזמין אתכם לחקור איתי את הקישקע של הAI,
כל פעם בדרך אחרת.
זה הזמן לעקוב אחרי:
https://twitter.com/tsoofbaror

מזמין אתכם לרטווט ולהגיב אם אהבתם,
ולהתעלם לגמרי אם השתעממתם. 😍

מורה נבוכים לAI

הAI שפותר בעיות במתמטיקה, ועושה את זה נפלא!
אני יודע שזה הוכרז הרגע, אבל אני מכה בברזל כל עוד הוא חם.
מה פשר ההכרזה של OpenAI?
איך זה שונה ממודל שפה רגיל?
בואו איתי 🧵 >>
#פידטק #פידאטה #פידטכנולוגיה

כדי להבין מה קורה כאן, צריך תפישה טובה של מה זה מודל שפה, לשירותכם בשרשור המצורף.
אני גם ממליץ לקרוא את השרשור על AutoGPT כרקע, שמקושר בציוץ הבא.
מודלי שפה חובה.
AutoGPT אפשר בלי.
נתחיל >>
https://twitter.com/tsoofbaror/status/1651604337100050432

1. דיברנו כבר על Complex Reasoning בשרשור על AutoGPT.
אפשר להסביר למודל שפה "איך לחשוב".
להגיד לו שהוא צריך לתכנן, לבקר את עצמו, לתת סיבות ורק אז לפעול.
הבעיה העיקרית היא תופעת ה"הזיות", הקטע הזה שמודל שפה אומר לכם שבנימין נתניהו הוא רקדנית בלט רומנייה >>
https://twitter.com/tsoofbaror/status/1663244782997753856

2. וכשמדברים על מודלים שבנויים בשיטת הChain, שמבצעים פעולות בהדרגה מחשבה אחרי מחשבה, כל הזיה כזו מייצרת שגיאות מצטברות שמכשילות את המודל לגמרי בהגעה לפתרון הסופי.
כדי לפתור בעיות במתמטיקה חייבים חשיבה משורשרת כזו.
מתמטיקה היא תהליכית! >>

3. עשו כבר Fine Tune למודלים במתמטיקה,
אבל עשו את זה בשיטה בשם OEM - Outcome-supervised reward models.
תגמלו מודל אם הגיע לתשובה הנכונה.
OpenAI מימשו  PRMs - process-supervised reward models.
במילים אחרות - It's about the journey, not the destination!
בעצם לא "רק" היעד. >>

4. כל הרעיון הזה מתחבר לתחום מחקר מאד משמעותי של OpenAI, שנקרא AI Alignment, כלומר יישור הAI שיתחבר לערכים האנושיים.
אם נבקר אותו גם על הדרך שלו ולא רק על התוצאה, נוכל למנוע ממנו להיות רע.
הראו כבר שמודלים שמתוגמלים על תוצאה משתמשים חופשי בלוגיקה שגויה כדי להגיע אליה. >>

5. במאמר מ2022 שמצוטט, הכותבים אומרים שלא נראה הבדל בתוצאות כשניסו לאמן מודל בשתי השיטות (OEM וRPM) על מתמטיקה של יסודי.
OpenAI עשו את זה, כאמור, בגדול. מודל חזק יותר, הרבה יותר Human Feedback ודאטהסט של מתמטיקה מסובכת. >>

6. קודם כל, וזה חשוב, מה שהם אימנו הוא מודל פרסים ולא מודל שפה.
מה הכוונה?
בשלב הFine Tune של מודל שפה משתמשים בRL, שזה אימון עם פרסים.
לא ארחיב על זה, אבל בן אדם צריך לבדוק כל צעד ולתת למודל השפה פרס (או קנס) עליו.
זה כמובן לא אפשרי ריאלית.
לכן מה שעושים הוא לאמן מודל פרסים, >>

7. מודל שמסתכל על צעד בפתרון ומחליט כמה פרס לתת לו.
נזכיר: באימון מודל שפה שני חלקים.
החלק הראשון הוא האימון ה"יבש" של השלמת משפטים, שם הוא לומד שפה. השני הוא אימון RL עם פידבק אנושי.
הם לקחו גרסה של GPT4 בלי החלק השני, ובעצם ביצעו רק אותה בעזרת מודל הפרסים שהם יצרו. >>

8. הניסויים בוצעו עם GPT4 שאומן קצת מראש להשתפר במתמטיקה.
הם עשו אימון מקדים ככה שיתן תשובות קצרות ובפורמט קבוע בכל פעם.
בקיצור, שיתאים למתמטיקה.
הם יצרו דאטהסט שכולל 12k בעיות, להן 75k פתרונות מוצעים ו800k צעדים סה"כ - בצורה הבאה. >>

9. כל צעד יכול להיות מתוייג כנכון, ניטרלי או שגוי.
כדי לייצר את הדאטהסט, הם נתנו לבודקים אנושיים לתייג דוגמאות שמודל
הפרסים חשב שהדרך בהם משכנעת, אבל התשובה שגויה.
כאלה מבלבלות, כדי שסט האימון יהיה מורכב מספיק.
עושים את זה, ומאמנים שוב ושוב את מודל הפרסים מחדש.  >>

10. אם זה לא היה ברור, מודל הפרסים צריך לעשות את מה שהאנשים עושים - להגיד האם כל שלב נכון, פשוט על מיליוני דוגמאות.
בקיצור - מייצרים N פתרונות של מודל השפה לכל בעיה.
בוחרים את הK עם הפרס הכי גבוה לפי מודל הפרסים - אבל שגויים!
נותנים לאדם לתייג אותם באמת.
ושוב, ושוב, ושוב. >>

11. שימו לב שזה מייצר Bias רציני לתשובות שגויות. הם מתייחסים לזה במאמר, אבל כאן לא נדבר על זה. לא מספיק חשוב.
נמשיך.
אחרי בניית מודל הפרסים, נותנים למודל השפה לפתור בעיה לפי שלבים.
מודל הפרסים מחשב לו ניקוד לפי "ההסתברות שכל צעד שמודל השפה עשה נכון".

12. גם מודל הפרסים יכול לטעות, אז מכניסים את הביטחון שלו בהחלטה לניקוד הסופי.
כדי שיהיה אפשר להשוות בין OEM לRPM, הם גם החליטו שברגע שמודל השפה בRPM עושה צעד לא נכון, הם עוצרים את החשיבה שלו.
פתרון נכון צריך להגיע רק אחרי שלבים נכונים. >>

13. הם אומרים שזה גם הופך את ההשוואה להוגנת יותר, כי אם ניתן למודל RPM לענות על שאלה עד הסוף ניתן לו אפילו עוד יותר אינפורמציה על היכן הוא טעה, וזה יתרון לא הוגן מול הOEM, זה יותר זמן אימון.
בכל מקרה, בואו נדבר תוצאות. >>

15. מה רואים בגרף?
בציר הy, אחוז התשובות הנכונות.
בציר הx, קורה הדבר הבא:
כל מודל מייצר N פתרונות לבעיה, ונבדק כמה מהם נכונים (ציר הy).
ניתן לראות שכשנותנים למודל הPRM לייצר הרבה פתרונות, הוא מייצר יותר פתרונות נכונים.
לא אכנס למה זה הMajority Voting הזה, אבל זה בייסליין.

16. זה קצת מסובך יותר: אימנו מודלים בגדולים שונים, בצורות שונות, ביצעו עוד ניסויים שקצרה היריעה לתמצת 29 עמודים לשרשור אחד.
המאמר מסיק מסקנה חשובה על Alignment.
היה אפשר לחשוב שלנסות להתחיל להתאים את המודלים שיחשבו כמונו, בצורה "בטוחה", יהיה משהו שיגזול משאבים.
פה אנחנו מראים >>

17. שכשאנחנו מבקרים את תהליכי החשיבה של המודל - אנחנו מקבלים תוצאות טובות יותר.
כלומר, מה שהם מכנים הAlignment Tax, המחיר שאנחנו משלמים על מודלים שלא מסכימים לעזור לטרוריסטים - הוא בעצם שלילי, הAlignment משפר את ביצועי המודל.
מסקנה קצת מרחיקת לכת לטעמי אבל ממש לא-לא נכונה. >>