Атаки на системи штучного інтелекту

Abstract

Навчально-практичний посібник присвячений комплексному аналізу загроз, атак та захисних механізмів у системах штучного інтелекту (ШІ). У книзі висвітлено фундаментальні теоретичні аспекти уразливостей моделей машинного навчання, методів атак на штучний інтелект та стратегій їхнього виявлення і нейтралізації. Особлива увага приділена аналізу змагальних атак (adversarial attacks), маніпуляцій із навчальними даними (data poisoning). Практичний аспект реалізовано через серію завдань, що включають моделювання атак на нейронні мережі, оцінку стійкості алгоритмів до змагальних прикладів та впровадження механізмів підвищення стійкості ШІ-систем. Окрім цього, розглядаються методи тестування програмного забезпечення, побудованого на базі нейромереж, на його стійкість до атак у різних сферах застосування ШІ. Посібник поєднує глибокий теоретичний аналіз із практичними завданнями, що сприяє ефективному засвоєнню матеріалу та розвитку навичок оцінки загроз та впровадження заходів безпеки. Він стане корисним для студентів технічних спеціальностей, аспірантів, викладачів, фахівців у сфері кібербезпеки та всіх, хто цікавиться захистом систем штучного інтелекту від потенційних атак.