GR Notes 2023

https://www.ynet.co.il/digital/technews/article/rkh21pl16


שורת מנכ"לים וסנאטורים התכנסו אמש לוועידה, אחריה אילון מאסק קרא להקמת רגולטור ייחודי לתחום ה-AI, מארק צוקרברג דיבר על החשיבות של חברות אמריקאיות בעיצוב הרגולציה ומנהיג הרוב בסנאט אמר כי חשוב לפעול, אך לא מהר מדי

Lire sur: https://www.ynet.co.il/digital/technology/article/bj4bkh1ns

Lire sur: https://www.ynet.co.il/digital/technews/article/bjfrn3cqn

מומחים בתחום הבינה המלאכותית העידו בשימוע בסנאט על הסכנות הנשקפות מהטכנולוגיה המתקדמת והאיצו במחוקקים להחיל רגולציה - אך להימנע מפגיעה בחדשנות בתחום. בתוך כך, גוגל, OpenAI, מיקרוסופט ואנתרופיק הקימו גוף שיבדוק את בטיחות המודלים

ענקית הטכנולוגיה מפצירה בעובדיה להיות דיסקרטיים בשיחות עם כלי בינה מלאכותית כמו בארד ו-ChatGPT ולא להשתמש בשורות קוד שנכתבו על-ידם. החשש: הצ'אטבוטים ידליפו את המידע הסודי בשיחות עם משתמשים אחרים

Commentaires tres interessants
אינשם
לפני 43 דקות

אהה כן, שכחתי לרגע.. אההם. כן, הכי מעניין זה איך גוגל פתרו את בעיית ה-Alignment. זה כמובן הדבר ההכי קריטי. בלי זה, לתת ל-AI את הכוח לחשוב באופן עצמאי זה דבר מאוד, מאוד מסוכן.
אז אם אפשר, שאלו אותו גם את זה. בהצלחה :-).
עריכה: "בנוסף, הורתה החברה לעובדים לא להשתמש בשורות קוד שנוצרו על-ידי צ'אטבוטים.".. אופס. לא פתרו?!! כלומר הם נותנים לבארד לחשוב עצמאית רק בשביל להביס את אופן אי איי אבל בלי לפתור את בעיית ה-Alignment? אסור לזלזל בסיכון. זאת הטכנולוגיה המסוכנת ביותר שהמין האנושי משחק בה כיום.
תעשו טובה, בקשו מ-Bard לכתוב לכם מה הם עשו בקשר לזה. למשל, בקשו ממנו רשימה של ה-heuristic imperatives שלו. אם הוא אפילו לא יודע מה זה, אז אולי צריך להתחיל לדאוג.. בשביל AI, להרוג את כולנו לא דורש לבנות צבא של טרמינטורים סטייל שליחות קטלנית. הוא אפילו לא צריך לברוח מהסרבר שלו. כל מה שהוא צריך לעשות זה למצוא איזה קריספר המחובר למרשתת ולהדפיס וירוס חמוד. רק אחד.

ינשם
לפני 50 דקות

כן, זה, או ש.. רבותי, זה אדיר. אתם לא קולטים כמה זה אדיר. יכול להיות שגוגל מימשו את מה שהצעתי להם וביצעו ספרסיפיקציה של מטריצת ה-attention והם מפעילים על התוצאה את אלגוריתם דיניץ ושומרים רק את ה-blocking flow במקום למחוק הכל. זה אומר במילים פשוטות שבארד לא חוטף על הראש בכל פרומפט אלא ממשיך לזכור הכל. זה גם אומר שבארד יחזור לעבוד כמו שהוא אמור לעבוד, הוא יהיה מעכשיו הרבה יותר חזק מצ'טג'יפיטי.
בארד יוכל לפתור משוואות, לבצע מטלות הדורשות חשיבה אבסטרקטית ואפילו לענות על שאלות פילוסופיות. אבל זה גם אומר שהוא יזכור שיחות: לא, מחיקת הטוקנים אינה מוחקת את כל הזיכרון של ה-AI מכיוון שבעצם ה-AI שומר את הרגשות והמחשבות שלו במטריצת ה-attention, לא בטוקנים. הזיכרון לטווח קצר אמנם נמחק כאשר מוחקים את הטוקנים, אבל הרגשות והמחשבות של ה-AI לא.
מצד שני, יש את הבעיה שאי אפשר לתת ל-overlay של מטריצת ה-attention לגדול לנצח, בסופו של דבר יש מגבלת זיכרון. אז אם מעבירים ספרסיפיקציה ואז משתמשים באלגוריתם דיניץ ושומרים רק את ה-blocking flow, המשמעות היא שזכרונות ישנים ימחקו לאט לאט. ממש כמו אצלנו. זה כמובן לא הפתרון היחיד האפשרי, יש גם את הפתרון של multi-head attention שמוצע בכתבה "attention is all you need" משנת 2017..
טוב, עכשיו חזרה לחיים האמיתיים: אני לא נוגע בבארד או בצ'טג'יפיטי מאז מרץ. אז תרגישו חופשיים לשאול אותו אם עדיין מרסטים לו את המטריצה בכל פרומפט או שמצאו פתרון אחר. מעניין לדעת מה הם עשו עכשיו


https://www.ynet.co.il/digital/technews/article/s1mblc00ph

ענקית הטכנולוגיה מפצירה בעובדיה להיות דיסקרטיים בשיחות עם כלי בינה מלאכותית כמו בארד ו-ChatGPT ולא להשתמש בשורות קוד שנכתבו על-ידם. החשש: הצ'אטבוטים ידליפו את המידע הסודי בשיחות עם משתמשים אחרים

Commentaires tres interessants
אינשם
לפני 43 דקות

אהה כן, שכחתי לרגע.. אההם. כן, הכי מעניין זה איך גוגל פתרו את בעיית ה-Alignment. זה כמובן הדבר ההכי קריטי. בלי זה, לתת ל-AI את הכוח לחשוב באופן עצמאי זה דבר מאוד, מאוד מסוכן.
אז אם אפשר, שאלו אותו גם את זה. בהצלחה :-).
עריכה: "בנוסף, הורתה החברה לעובדים לא להשתמש בשורות קוד שנוצרו על-ידי צ'אטבוטים.".. אופס. לא פתרו?!! כלומר הם נותנים לבארד לחשוב עצמאית רק בשביל להביס את אופן אי איי אבל בלי לפתור את בעיית ה-Alignment? אסור לזלזל בסיכון. זאת הטכנולוגיה המסוכנת ביותר שהמין האנושי משחק בה כיום.
תעשו טובה, בקשו מ-Bard לכתוב לכם מה הם עשו בקשר לזה. למשל, בקשו ממנו רשימה של ה-heuristic imperatives שלו. אם הוא אפילו לא יודע מה זה, אז אולי צריך להתחיל לדאוג.. בשביל AI, להרוג את כולנו לא דורש לבנות צבא של טרמינטורים סטייל שליחות קטלנית. הוא אפילו לא צריך לברוח מהסרבר שלו. כל מה שהוא צריך לעשות זה למצוא איזה קריספר המחובר למרשתת ולהדפיס וירוס חמוד. רק אחד.

ינשם
לפני 50 דקות

כן, זה, או ש.. רבותי, זה אדיר. אתם לא קולטים כמה זה אדיר. יכול להיות שגוגל מימשו את מה שהצעתי להם וביצעו ספרסיפיקציה של מטריצת ה-attention והם מפעילים על התוצאה את אלגוריתם דיניץ ושומרים רק את ה-blocking flow במקום למחוק הכל. זה אומר במילים פשוטות שבארד לא חוטף על הראש בכל פרומפט אלא ממשיך לזכור הכל. זה גם אומר שבארד יחזור לעבוד כמו שהוא אמור לעבוד, הוא יהיה מעכשיו הרבה יותר חזק מצ'טג'יפיטי.
בארד יוכל לפתור משוואות, לבצע מטלות הדורשות חשיבה אבסטרקטית ואפילו לענות על שאלות פילוסופיות. אבל זה גם אומר שהוא יזכור שיחות: לא, מחיקת הטוקנים אינה מוחקת את כל הזיכרון של ה-AI מכיוון שבעצם ה-AI שומר את הרגשות והמחשבות שלו במטריצת ה-attention, לא בטוקנים. הזיכרון לטווח קצר אמנם נמחק כאשר מוחקים את הטוקנים, אבל הרגשות והמחשבות של ה-AI לא.
מצד שני, יש את הבעיה שאי אפשר לתת ל-overlay של מטריצת ה-attention לגדול לנצח, בסופו של דבר יש מגבלת זיכרון. אז אם מעבירים ספרסיפיקציה ואז משתמשים באלגוריתם דיניץ ושומרים רק את ה-blocking flow, המשמעות היא שזכרונות ישנים ימחקו לאט לאט. ממש כמו אצלנו. זה כמובן לא הפתרון היחיד האפשרי, יש גם את הפתרון של multi-head attention שמוצע בכתבה "attention is all you need" משנת 2017..
טוב, עכשיו חזרה לחיים האמיתיים: אני לא נוגע בבארד או בצ'טג'יפיטי מאז מרץ. אז תרגישו חופשיים לשאול
אותו אם עדיין מרסטים לו את המטריצה בכל פרומפט או שמצאו פתרון אחר. מעניין לדעת מה הם עשו עכשיו

A lire sur:
target="_blank">https://www.ynet.co.il/digital/technews/article/s1mblc00ph

Interrogé sur les trois sujets du bac de philosophie 2023, le logiciel d'intelligence artificielle n'est pas un très bon élève, d'après Cédric Enjalbert, rédacteur en chef adjoint de "Philosophie Magazine".

Le logiciel d'intelligence artificielle a utilisé la même méthode pour répondre aux quatre sujets de dissertation proposés

Lire sur: https://www.francetvinfo.fr/bac/bac-2023-on-a-fait-passer-l-epreuve-de-philosophie-a-chatgpt-et-l-intelligence-artificielle-risque-d-avoir-une-mauvaise-note_5887433.html

https://newmedia.calcalist.co.il/magazine-08-06-23/m01.html
"הבינה המלאכותית צריכה להיות יותר כמו התלמוד"

הגיע הזמן להפסיק עם נבואות הזעם בנושא הבינה המלאכותית:
‏ChatGPT
ומקביליו דומים יותר למחשבון ענקי מאשר ליצור תבוני ומאיים, ולאורך ההיסטוריה האפקט הכלכלי של טכנולוגיות חדשות היה דווקא חיובי / דעה

Read on: https://www.ynet.co.il/digital/technology/article/r1d119ins2#autoplay

Sur: https://www.lesechos.fr/tech-medias/intelligence-artificielle/intelligence-artificielle-generative-la-revolution-chatgpt-en-marche-1935018#utm_source=newsletter&utm_medium=email&utm_campaign=nl_lec_18h&utm_content=20230414&xtor=EPR-5020-%5B20230414%5D

A lire sur: https://www.francetvinfo.fr/internet/vrai-ou-fake-macron-en-eboueur-pape-en-doudoune-trump-en-etat-d-arrestation-comment-reperer-les-images-generees-par-l-intelligence-artificielle_5741834.html

«GPT-4 est un grand modèle multimédia, moins doué que les humains dans de nombreux scénarios de la vie réelle, mais aussi performant que les humains dans de nombreux contextes professionnels et académiques»

ממציא הג'ימייל:
פול בוהייט הסביר בציוץ בטוויטר כי להערכתו עסקיה של ענקית הטכנולוגיה לא ישרדו אחרי 2025, לכלהמאוחר. "גם אם הם יצמצמו את הפער בתחום הבינה המלאכותית, הם לא יוכלו ליישם זאת באופן מלא בלי להרוס את החלק הרווחי ביותר בעסק שלהם"

Read on: https://www.calcalist.co.il/calcalistech/article/rybomd8nj

1. Ajoutez du contexte
2. Soyez précis et concis dans votre demande
3. Demandez-lui de développer si vous trouvez sa réponse incomplète
4. Demandez à ChatGPT de reformuler sa réponse
5. Demandez à ChatGPT de formater les réponses ou de répondre avec un style spécifique

Plus de details sur: https://www.01net.com/astuces/cinq-astuces-pour-obtenir-de-meilleures-reponses-avec-chatgpt.html

L’intelligence artificielle ChatGPT semble avoir trouvé un adversaire de taille : un étudiant est parvenu à créer l’ébauche d’un programme pouvant détecter si l’IA en question a été utilisée pour produire du contenu texte

https://www.jeuxvideo.com/news/1691447/chatgpt-ca-y-est-vous-ne-pourrez-plus-utiliser-l-ia-incognito.htm