ОМ Непростой журнал
Как гласит третий закон Ньютона, любое действие рождает противодействие, и системы распознавания образов тут не исключение. Понятно, что подобные технологии могут применяться как для слежки, так и с более дружелюбными целями. Именно поэтому их постоянно проверяют на прочность.
Группа исследователей из университета Кюсю открыла способ обманывать программы по распознаванию образов, изменив один-единственный пиксель на изображении. Этот пиксель расположен так, что он сбивает с толку нейросети, отвечающие за идентификацию, и они начинают принимать собак за кошек, а лошадей за машины.
Тестовые изображения были ограничены всего тысячей пикселей, но в случае более высокого разрешения и миллионов пикселей правило также работает. Только изменять надо не один пиксель, а несколько сотен.
Вторая группа исследователей, на этот раз из Массачусетского технологического института, умудрилась пойти еще дальше. Они смогли напечатать с помощью 3D-принтера скульптуру черепахи, которую программа, даже разглядев со всех сторон и под любым углом, приняла за винтовку. Этот эксперимент представляет куда большую проблему для технологии распознавания образов, так как все дело происходило в реальности, а программе позволили проанализировать объект со всех углов, но она все равно не определила его подлинную форму.
Вместе оба исследования показывают, какой путь предстоит пройти роботам и программам, прежде чем они достигнут человеческого уровня. В конце концов, наш мозг не обмануть, заменив один или даже сотню пикселей.
Источник: popmech.ru
