Доказано ≠ безопасно: как каскады ИИ-агентов заставили меня усилить модель угроз
В первой статье я рассказал, как собрал операционную систему и доказал ее работу. Спустя время я понял, что этого недостаточно.Всё чаще стали попадаться на глаза новости о том, как ИИ-агенты находят уязвимости в ядрах Linux за часы. Каскады ИИ-агентов - это уже не фантастика из фильмов, а реальный инструмент, который снижает стоимость и время на поиск ошибок до нуля. Я посмотрел на свою модель угроз и понял неприятную вещь: мои доказательства работают для моего понимания безопасности, но они ничего не знают о реальном мире.Контракт может быть математически безупречным, но при этом абсолютно бесполезным, если он не покрывает то, как атакуют на самом деле. Настоящая зрелость проекта начинается не с написания кода, а с честного признания того, что именно я не могу доказать. Читать далее