אנתרופיק חושפת מבצע עצום לשוד את מודל הבינה המלאכותית שלה

החברה האמריקאית טוענת ש-MiniMax, DeepSeek ו-Moonshot השתמשו באלפי חשבונות מזויפים כדי לשדוד את היכולות של מודל הבינה המלאכותית שלה.

בדוח שפורסם לאחרונה, Anthropic מצהירה שזיהתה את מה שהיא מכנה 'קמפיינים מאורגנים' שנערכו על ידי שלושה מפתחים סיניים של בינה מלאכותית, שמטרתם הייתה לשחזר את היכולות של Claude, מודל הדגל שלה.

לדברי החברה, מעבדות MiniMax, DeepSeek ו-Moonshot השתמשו ברשתות של חשבונות מזויפים כדי לשדוד נתונים שמטרתם הייתה לאמן את מודלים שלהם.

טכניקה מוכרת, שימוש שנוי במחלוקת
while some have good news to announce, like a renunciation of advertising at Perplexity, others are more nuanced and settle accounts with competitors. The technique in question, called 'distillation', consists of teaching a less performing model by imitating the responses of a more advanced model.

מה ש-Anthropic מתחילה כאן, זה השימוש בשיטה זו על ידי מתחרים כדי לרכוש יכולות מתקדמות ללא צורך בפיתוחן themselves, thereby significantly reducing the time and research costs required.

כ-16 מיליון חילופי מידע באמצעות 24,000 חשבונות מזויפים
הדוח מתאר פעולה הכוללת כ-24,000 חשבונות מזויפים שיצרו יותר מ-16 מיליון חילופי מידע עם Claude. חשבונות אלו נוהלו בעזרת ארכיטקטורות שנקראות 'hydra cluster' של רשתות מורחבות של חשבונות שנועדו להסתיר ולפזר תנועה כדי להימלט ממערכי הגילוי.

היכולות שנצלו משתנות בין המעבדות. MiniMax ריכז את מאמציו בקודינג אגנטי ושימוש בכלים, עם יותר מ-13 מיליון חילופי מידע. Moonshot התמקד בראיית עולם אגנטית, קודינג וראייה ממוחשבת, בסך הכל יותר מ-3.4 מיליון חילופי מידע. DeepSeek, עם כמות נמוכה יותר של יותר מ-150,000 חילופי מידע, התמקד בראיית עולם, הערכה מבוססת רשתות של קריטריונים ותגובות שמנסות לחרוג מצנזורה.

Anthropic טוענת שזיהתה את האחראים 'במידה רבה של ביטחון' באמצעות קורלציה של כתובות IP, מטא-נתונים של בקשות, מדדים של אינפרסטרוקטורה, ובמקרים מסוימים, מידע שנאסף עם שותפים מהסקטור.

בתגובה, החברה מצהירה שפיתחה מספר מערכות של סיווג וטביעת אצבע התנהגותית שנועדו לזהות תבניות של השתקעה בתנועה של האינטרфейס שלה (API). היא גם אומרת לשתף מדדים טכניים עם מעבדות בינה מלאכותית אחרות ומתן שירותי ענן, והחזקה את ההליכים של בדיקה עבור חשבונות אקדמיים ומחקר.

בפועל, אף אחת משלושת המעבדות הסיניות שצוינו בדוח לא תגובה ציבורית לתביעות אלו.