- אנתרופיק הציגה את FlashProve, מערכת קוד פתוח לאימות זהותם של מודלי בינה מלאכותית.
- המערכת מספקת הוכחה מתמטית לכך שתשובה ספציפית הופקה על ידי המודל המבוקש.
- הפיתוח מגן מפני החלפה חשאית של המודל במודל זול יותר או במודל שעבר שינוי, ומאפשר אימות מהיר במחשב מקומי.
- הקוד זמין בקוד פתוח ב-GitHub, ללא תוכניות פריסה מסחרית מיידית בשלב זה.
חברת אנתרופיק (Anthropic) חשפה את FlashProve, מערכת קוד פתוח שנועדה לאמת את זהותם של מודלי בינה מלאכותית ולוודא איזה מודל הפיק פלט מסוים.
המטרה העיקרית של הטכנולוגיה היא לאפשר למשתמשים, חברות וגופי בקרה לקבל ערובה מתמטית לכך שהתשובה שהתקבלה אכן נוצרה על ידי המודל שהם שילמו עליו או פנו אליו.
כיום, כאשר משתמש שולח שאילתה, אין לו דרך מעשית לוודא שהפלט לא הגיע ממודל חלש וזול יותר שסופק בחשאי כדי לחסוך בעלויות, או ממודל ששונה בעקבות מתקפת סייבר.
הבעיה הזו רלוונטית במיוחד לאפליקציות ולשירותים של צד שלישי, שמציגים את עצמם כמבוססים על מודל מתקדם של אחת החברות המובילות. כיום לקוח שמשלם על שירות כזה, בין אם זה משתמש פרטי ובין אם זו חברה שמחוברת דרך ה-API, נדרש פשוט לסמוך על ההצהרה. FlashProve מציעה דרך לבדוק אותה בפועל.
אימות מתמטי בלי לחשוף סודות מסחריים
FlashProve מתבססת על מושג המכונה היסק מוכח (Provable Inference) באמצעות הוכחות אפס-מידע מסוג zkSNARK. הוכחות אלה מאפשרות לספק שירות להוכיח חישוב בצורה קריפטוגרפית, בדומה לחתימה דיגיטלית בהודעות דואר אלקטרוני, מבלי לחשוף את תוכן החישוב הפנימי.
כדי שהאימות יפעל, מעבדות ה-AI נדרשות לפרסם מעין "טביעת אצבע" דיגיטלית של המודל. יתרונה המרכזי של השיטה נעוץ בכך שטביעת האצבע אינה חושפת את משקולות המודל (Weights), שהן הנתונים הפנימיים המסחריים שחברות שומרות לעצמן בסוד. בדרך זו, חברות מסחריות יכולות לספק הוכחות למשתמשים מבלי לוותר על הקניין הרוחני שלהן.
בנוסף, המערכת תוכננה כך שקובצי ההוכחה יהיו קטנים יחסית וקלים לבדיקה. המשמעות היא שמשתמשים, מבקרי תוכנה או רגולטורים יכולים לבצע את בדיקת האימות ישירות על מחשב מקומי פשוט, ללא צורך במעבדים גרפיים יקרים או תשתיות ענן ייעודיות.
תרחישי שימוש וביצועים
לדברי החברה, הטכנולוגיה יכולה לתת מענה למגוון בעיות אמון ואבטחה. בין היתר, המערכת מאפשרת לאמת הצהרות של צדדים שלישיים, למשל מפתח שטוען שספריית קוד נסרקה לאיתור חולשות אבטחה על ידי מודל מתקדם במיוחד, או חברה שטוענת שתוכנית עסקית נבדקה ואושרה במודל מוגדר.
במבחני ביצועים שערכו החוקרים על מודל Llama 4 Maverick בעל 400 מיליארד פרמטרים, מאיץ גרפי בודד מסוג H100 של אנבידיה הפיק הוכחות בקצב של כ-110 טוקנים בשנייה.
גודל ההוכחה עמד על כ-19MB לבקשה של 1,024 טוקנים, כאשר פעולת האימות במחשב המשתמש ארכה שניות בודדות על מעבד רגיל.
זמינות
בשלב הנוכחי מדובר באבטיפוס מחקרי בלבד, ואנתרופיק אינה מתכננת לפרוס אותו בשירותיה המסחריים בזמן הקרוב.
החברה פרסמה את מפרט הפרוטוקול, דוחות טכניים וקוד מלא ברישיון קוד פתוח Apache 2.0 ב-GitHub, במטרה לאפשר לקהילת הפיתוח להמשיך לחקור ולשפר את הפתרון.
