У компанії зазначають, що звичайний користувач не може перевірити, яка саме мовна модель створила відповідь. Через це сервіси маршрутизації або самі розробники можуть непомітно замінювати дорогі моделі дешевшими, щоб скоротити витрати.
Оцінювання лише за якістю тексту, за даними Anthropic, лишається ненадійним методом: навіть сурогатні чи скомпрометовані системи здатні видавати правдоподібні результати й приховувати від споживача реальний процес генерації.
Як працює система
FlashProve спирається на криптографічні докази виведення й складається з двох фаз. Офлайн-фаза публікує короткий цифровий відбиток ваг моделі без розкриття її пропрієтарних параметрів. Онлайн-фаза створює файл доказу для кожного окремого запиту та згенерованих токенів.
Користувачі або незалежні аудитори можуть перевірити такий файл на звичайному комп'ютері за кілька секунд. За твердженням розробників, це виключає можливість непомітної фальсифікації результатів.
Результати тестування
Систему випробували на моделі Llama 4 Maverick із 400 мільярдами параметрів. Один графічний процесор H100 генерує докази зі швидкістю близько 110 токенів за секунду.
Файл доказу для 1024 токенів займає 19 МБ, а його перевірка на звичайному центральному процесорі триває кілька секунд.
Технічну специфікацію та робочий код Anthropic виклала на GitHub під відкритою ліцензією. Розробники сподіваються на участь спільноти у вдосконаленні інструменту. Вони також вважають, що подібні рішення підвищують довіру до штучного інтелекту та відкривають можливості для регулювання галузі, перевірки безпеки й контролю за виконанням зобов'язань розробниками.
