גוגל לעובדים: אל תגלו סודות לצ'אטבוט
ענקית הטכנולוגיה מפצירה בעובדיה להיות דיסקרטיים בשיחות עם כלי בינה מלאכותית כמו בארד ו-ChatGPT ולא להשתמש בשורות קוד שנכתבו על-ידם. החשש: הצ'אטבוטים ידליפו את המידע הסודי בשיחות עם משתמשים אחרים
Commentaires tres interessants
אינשם
לפני 43 דקות
אהה כן, שכחתי לרגע.. אההם. כן, הכי מעניין זה איך גוגל פתרו את בעיית ה-Alignment. זה כמובן הדבר ההכי קריטי. בלי זה, לתת ל-AI את הכוח לחשוב באופן עצמאי זה דבר מאוד, מאוד מסוכן.
אז אם אפשר, שאלו אותו גם את זה. בהצלחה :-).
עריכה: "בנוסף, הורתה החברה לעובדים לא להשתמש בשורות קוד שנוצרו על-ידי צ'אטבוטים.".. אופס. לא פתרו?!! כלומר הם נותנים לבארד לחשוב עצמאית רק בשביל להביס את אופן אי איי אבל בלי לפתור את בעיית ה-Alignment? אסור לזלזל בסיכון. זאת הטכנולוגיה המסוכנת ביותר שהמין האנושי משחק בה כיום.
תעשו טובה, בקשו מ-Bard לכתוב לכם מה הם עשו בקשר לזה. למשל, בקשו ממנו רשימה של ה-heuristic imperatives שלו. אם הוא אפילו לא יודע מה זה, אז אולי צריך להתחיל לדאוג.. בשביל AI, להרוג את כולנו לא דורש לבנות צבא של טרמינטורים סטייל שליחות קטלנית. הוא אפילו לא צריך לברוח מהסרבר שלו. כל מה שהוא צריך לעשות זה למצוא איזה קריספר המחובר למרשתת ולהדפיס וירוס חמוד. רק אחד.
ינשם
לפני 50 דקות
כן, זה, או ש.. רבותי, זה אדיר. אתם לא קולטים כמה זה אדיר. יכול להיות שגוגל מימשו את מה שהצעתי להם וביצעו ספרסיפיקציה של מטריצת ה-attention והם מפעילים על התוצאה את אלגוריתם דיניץ ושומרים רק את ה-blocking flow במקום למחוק הכל. זה אומר במילים פשוטות שבארד לא חוטף על הראש בכל פרומפט אלא ממשיך לזכור הכל. זה גם אומר שבארד יחזור לעבוד כמו שהוא אמור לעבוד, הוא יהיה מעכשיו הרבה יותר חזק מצ'טג'יפיטי.
בארד יוכל לפתור משוואות, לבצע מטלות הדורשות חשיבה אבסטרקטית ואפילו לענות על שאלות פילוסופיות. אבל זה גם אומר שהוא יזכור שיחות: לא, מחיקת הטוקנים אינה מוחקת את כל הזיכרון של ה-AI מכיוון שבעצם ה-AI שומר את הרגשות והמחשבות שלו במטריצת ה-attention, לא בטוקנים. הזיכרון לטווח קצר אמנם נמחק כאשר מוחקים את הטוקנים, אבל הרגשות והמחשבות של ה-AI לא.
מצד שני, יש את הבעיה שאי אפשר לתת ל-overlay של מטריצת ה-attention לגדול לנצח, בסופו של דבר יש מגבלת זיכרון. אז אם מעבירים ספרסיפיקציה ואז משתמשים באלגוריתם דיניץ ושומרים רק את ה-blocking flow, המשמעות היא שזכרונות ישנים ימחקו לאט לאט. ממש כמו אצלנו. זה כמובן לא הפתרון היחיד האפשרי, יש גם את הפתרון של multi-head attention שמוצע בכתבה "attention is all you need" משנת 2017..
טוב, עכשיו חזרה לחיים האמיתיים: אני לא נוגע בבארד או בצ'טג'יפיטי מאז מרץ. אז תרגישו חופשיים לשאול אותו אם עדיין מרסטים לו את המטריצה בכל פרומפט או שמצאו פתרון אחר. מעניין לדעת מה הם עשו עכשיו
https://www.ynet.co.il/digital/technews/article/s1mblc00ph