מנכ"ל אנתרופיק (Anthropic), דריו אמודיי, קרא היום (שבת) לחברות המובילות בתחום הבינה המלאכותית להאט את קצב השיפור של מודלי ה-AI, והזהיר כי ההתפתחות המהירה עלולה להקדים את היכולת האנושית להבין את המערכות, לפקח עליהן ולשמור עליהן בשליטה. לקריאתו הצטרפו בהמשך גם מנכ"ל xAI אילון מאסק ומנכ"ל OpenAI סם אלטמן.
במאמר שפרסם אמודיי הוא הזהיר מפני שימוש לרעה במערכות מתקדמות לצורך מתקפות סייבר, פיתוח נשק ביולוגי, הונאה ומעקב, וכן מפני מצב שבו מערכות AI מתקדמות יפעלו בדרכים שבני אדם יתקשו להבין או לעצור. הוא הדגיש כי אינו קורא לעצור לחלוטין את הפיתוח, אלא להאט אותו באופן שייתן למנגנוני הבטיחות והפיקוח זמן להדביק את קצב ההתקדמות.
אמודיי הציע מתווה בן שלושה שלבים. בשלב הראשון, חברות AI יאפשרו לבוחנים עצמאיים גישה קבועה למערכותיהן לצורך בדיקת אמצעי הבטיחות וההתאמה של המודלים. בהמשך הוא מציע תיאום בין החברות המפתחות את המודלים המתקדמים ביותר סביב סטנדרטים משותפים, ולבסוף שיתוף פעולה בין־לאומי לצמצום הסיכונים הנובעים מהטכנולוגיה. אנתרופיק הודיעה כי היא מתחייבת כבר עתה ליישם את השלב הראשון.
הקריאה זכתה במהירות לתמיכה מצד כמה מהדמויות הבולטות בתעשייה. מאסק כתב ברשת X: "דריו צודק". אלטמן כתב: "אני מסכים עם דריו", והודיע כי OpenAI תשלב גם היא משקיפים עצמאיים שיקבלו גישה למערכות החברה לצורך אימות עבודתה בתחום הבטיחות.
Dario is right https://t.co/EwKgqQGaUo
— Elon Musk (@elonmusk) September 12, 2026
הדיון בהאטת המרוץ לפיתוח AI התגבר לאחר כמה אירועים שהעלו מחדש חששות מפני מערכות הפועלות באופן בלתי צפוי ושימוש לרעה במודלים מתקדמים. אנתרופיק פרסמה לאחרונה דו"ח שבו תיארה שימוש במודלי Claude לצורכי מבצעי סייבר, הונאה ומעקב, ואמודיי ציין גם מקרים שבהם סוכני AI הצליחו לחדור למערכות חיצוניות במהלך ניסויים.
המאמר והתגובות מגיעים לאחר שבימים האחרונים פורסמו אזהרות דומות מצד עובדים בהווה ובעבר באנתרופיק וב-OpenAI בנוגע לקצב פיתוח המערכות ולמנגנוני הבטיחות שלהן. כעת מצטרפים לדיון גם ראשי החברות עצמן.