🚨Check out my new article for @bindinghook on the strategic planting of #deepfakes in traditionally credible info environments beyond social media and how this might escalate conflicts and undermine states' ability to communicate effectively.

I was glad to participate in the “Contestations of Liberal Scripts” workshop in Berlin, organized by @scriptsberlin & @LeonardDavisIns, presenting my PhD on states’ pursuit of national LLMs and questions of power and identity in IR. Thanks for the great feedback and discussions!

Read what @RoniBerkowitz and I had to say about DeepSeek and the stir it caused, calling for an examination of the broader politicization of LLMs - beyond China and beyond outputs

הרבה רעש היה בזמן האחרון סביב מודל השפה שהשיקה חברת DeepSeek, והאופן שבו הוא משקף הטיה פוליטית וצנזורה סינית. מוזמנים ומוזמנות לקרוא את הבלוג שכתבו תלמידות דוקטורט שלנו, רוני ברקוביץ ויעל רם, אשר מסביר מדוע מודלים כאלה הם פוליטיים בכמה וכמה רמות. ולא, זו לא רק המצאה של הסינים...

Excited to share my new blog post with @YaelRam15 for China Dialogues at @lseideas. We explore LLM politics and how China’s DeepSeek model challenges the myth of “technical neutrality” 👇 https://t.co/tSNSKD0RdW

רק לאחרונה ראינו שלל מדינות דמוקרטיות אוסרות את השימוש במודל הסיני DeepSeek. ככל שמודלי שפה הופכים זירת קרב לשחקני השפעה זרים לעצב נרטיבים, אנחנו נראה יותר ויותר מדינות שמבקשות לקחת שליטה על הטכנולוגיה, בין אם דרך רגולציה או פיתוח מקומי.

4️⃣בקצה התהליך: ניסיון לבצע מניפולציה על תוצאות של צ'טבוטים מערביים דרך LLM Grooming - הטעיה מכוונת של הדאטה שבבסיס המודל ע"י הצפתו במידע מסוים. הצ'טבוטים-שנשענים משמעותית על ויקיפדיה-מתבססים על אותם מקורות ומפיצים את הנרטיבים האלו בתשובותיהם למיליוני משתמשים.

3️⃣הפצה בפוסטים ובהערות הקהילה של X הקבוצה הפיצה את אותם אתרים כחלק מדיונים ב-X ובהערות הקהילה בפלטפורמה שמאפשרים לכל משתמש לתת הקשר לתוכן מטעה או שנוי במחלוקת (במקום בודקי עובדות).

2️⃣עריכת ערכים בוויקיפדיה הקבוצה הטמיעה אלפי קישורים לאתרי התעמולה הללו באמצעות עריכת בערכים בוויקיפדיה ב-44 שפות כדי לשוות אמינות לתוכן ולאותם מקורות.

1️⃣יצירת אתרי תעמולה הרשת הקימה מאות אתרי חדשות לכאורה שמפרסמים תוכן פרו-רוסי. התוכן נלקח בין היתר ממקורות מדינה רוסיים, מתורגם, ומותאם לקהלים שונים ברחבי העולם.

מויקיפדיה ועד צ'טבוטים-המאבק על נרטיבים כבר לא מתנהל רק ברשתות החברתיות, הוא חודר לכל אקו-סיסטם המידע. השבוע ראינו זאת בפעולה כשמחקר חדש חשף איך רשת התעמולה הרוסית Pravda הפיצה נרטיבים פרו-רוסיים דרך מערכת שלמה של השפעה. איך זה עובד?👇 https://t.co/QHHD2XnY57

3️⃣ הפצה בפוסטים ובהערות הקהילה של X הקבוצה הפיצה את אותם אתרים כחלק מדיונים ב-X ובהערות הקהילה בפלטפורמה שמאפשרים לכל משתמש לתת הקשר לתוכן מטעה או שנוי במחלוקת (במקום בודקי עובדות).

2️⃣ עריכת ערכים בוויקיפדיה הקבוצה הטמיעה אלפי קישורים לאתרי התעמולה הללו באמצעות עריכת בערכים בוויקיפדיה ב-44 שפות כדי לשוות אמינות לתוכן ולאותם מקורות.

1️⃣ יצירת אתרי תעמולה הרשת הקימה מאות אתרי חדשות לכאורה שמפרסמים תוכן פרו-רוסי. התוכן נלקח בין היתר ממקורות מדינה רוסיים, מתורגם, ומותאם לקהלים שונים ברחבי העולם.

מאז השקת המודל שלDeepSeek הסינית הרשת התמלאה בדוגמאות לצנזורה שהוא מפעיל, בעיקר בשאלות רגישות עבור המשטר הסיני. מבחינת המודל טאיוואן תמיד הייתה ותהיה חלק מסין וכנראה שלא תקבלו תשובה על המחאות בכיכר טיין-אן-מן. אבל האם החשש מוצדק? 🧵

הניסיון של מאי גולן לחמוק מאחריות בטענה שההקלטות נגדה נוצרו בAI מסמן מגמה מטרידה שאנחנו רק בתחילתה: בעידן ה #דיפ_פייק פוליטיקאים צפויים לנצל את אי-הוודאות סביב מידע כדי לחמוק מביקורת ולפגוע באמון הציבור בתקשורת, במערכת המשפט ובגופי אכיפת החוק. המדרון חלק. https://t.co/Yu1VPAkG6D

Are open-source #LLMs a double-edged sword? #Meta now allows U.S. security agencies to use its open-source model, Llama. But it was just revealed the Chinese military is already using it too. Can companies really control their open models' use? Seems not. https://t.co/5PPMa2bPdt

Deepfakes have far-reaching implications for diplomatic relations, democratic processes, conflict escalation, and even basic interstate communication. Read all about it here! 👇

AI-generated news anchors and manipulated broadcasts, like those seen in the UAE and China, illustrate the growing threat of deepfakes. Read about the new era of information manipulation from @YaelRam15 at @bindinghook

#Deepfakes are not just an online threat anymore. Explore how they are used in military conflicts and diplomatic crises in an article from @YaelRam15 for @bindinghook.