Доказуемая устойчивость нейронных сетейCertified robustness of neural networks

Глубокие нейронные сети чувствительны к состязательным атакам – незначительным возмущениям входных данных, не изменяющим их семантику, но значительно влияющим на предсказание нейронной сети. Данная уязвимость ограничивает применение нейронных сетей в задачах, где требуется предоставление гарантий корректности предсказания нейронных сетей. В работе рассматривается проблема предоставления гарантий корректности поведения нейронной сети при наличии произвольных возмущений входных данных. Предложен метод вычисления вероятностных гарантий устойчивости классификационных нейронных сетей к случайным возмущениям входных данных произвольной природы. Также предложен метод предоставления детерминированных гарантий устойчивости прототипических нейронных сетей к аддитивным возмущениям ограниченной нормы. Помимо этого, разработан метод создания цифровых водяных знаков в качестве механизма защиты нейронных сетей от атак, направленных на кражу функциональности.