Google DeepMind: ШІ допоміг формально перевірити безпеку протоколу Signal

Google DeepMind повідомила про експеримент, у якому команда ШІ-агентів допомогла формально перевірити окремі властивості безпеки реалізації протоколу Signal. Дослідники аналізували код бібліотеки libsignal аж до скомпільованих машинних інструкцій, а результати підтверджувалися перевірками, які можна відтворити.

Розробник працює з кодом на ноутбуці
Ілюстрація: робота з програмним кодом. Фото: Danial Igdery / Unsplash.

Що саме перевіряли

За описом DeepMind, система формалізувала властивості обміну ключами PQXDH і протоколу Triple Ratchet. Серед них — пряма секретність, автентифікація та стійкість до компрометації. Для побудови доказів агенти згенерували мільйони рядків коду Lean; фахівці зосередилися на перевірці специфікацій і ключових припущень.

Чому це важливо — і де межі результату

Формальна верифікація дає змогу математично перевірити, чи відповідає програма заданим властивостям, і може виявити розбіжності між задумом та реальною реалізацією. У демонстрації дослідники також повторно внесли дві раніше виправлені помилки: інструменти побудували для них докази, які виявилися некоректними, що показало цінність машинної перевірки самих доказів.

Цей результат не є доказом безпеки всього застосунку Signal або всіх можливих сценаріїв атак. Він стосується конкретних властивостей і частин реалізації в межах описаної моделі. Водночас робота показує, як ШІ може прискорити трудомісткий аналіз, залишаючи перевірку формальних тверджень відтворюваною.

Джерело: Google DeepMind — Introducing AlphaProof Code. Технічна стаття. Фото: Danial Igdery / Unsplash.


Коментарі

Залишити відповідь