- Отримати посилання
- X
- Електронна пошта
- Інші додатки
- Отримати посилання
- X
- Електронна пошта
- Інші додатки
Чепур за підказками нейромережі обійшов устрій розпізнавання облич. Розробники навчили нейромережу визначати на людському обличчі місця, на які зверне вгляд устрій розпізнавання облич, та підбирати для них непомітний макіяж, щоб не привертати вгляд ані оточуючих, ані устрої. 20 добровольців, що скористалися допомогою алгоритму, знизили точність розпізнавання свого обличчя устроєм з 47,5 до 1,2 відсотка. Попередня доповідь розповідає, як вчені вводили в оману устрої розпізнавання обличчя, доступний на сервісі arXiv.
Як впізнають наші обличчя?
Устрої розпізнавання облич як правило використовуються для розпізнавання побачених камерою спостереження осіб, занесених в «білий» список, або оповіщення про осіб, які внесені в «чорний» список. Послідовність кадрів з камер надходить до алгоритму, а той вже створює вказівники на обличчях. Ця попередня обробка перетворює кожну особу на зображенні особисто під вхідне зображення, яке передається для розбору глибинним нейромережам, які порівнюють ці вказівники з іншими зображеннями у своїй базі. Вкінці особистість людини визначається на основі найвищого показника подібности, який перевищує визначений поріг. Такі способи жваво використовуються в громадських місцях, включаючи метро, летовища, а також на підприємствах замість пропусків.
Втім, нейромережі, що використовуються в устроях розпізнавання, можна обдурити, а способи ввести їх в оману можна розділити на два види. До першого виду відносяться числові маніпуляції, наприклад, додавання до зображення деякого добре обробленого шуму. До другого виду відносяться способи обману вже в справжній площині, коли алгоритм обманюють безпосередньо тим, що він видить. Це може бути, наприклад, тискарення спеціальних узорів на оправі окулярів, наклейки на обличчі, яскраво причепурене лице і схожі маніпуляції. Правда, зробити це непомітно для оточуючих досить складно.
Як впізнають наші обличчя?
Устрої розпізнавання облич як правило використовуються для розпізнавання побачених камерою спостереження осіб, занесених в «білий» список, або оповіщення про осіб, які внесені в «чорний» список. Послідовність кадрів з камер надходить до алгоритму, а той вже створює вказівники на обличчях. Ця попередня обробка перетворює кожну особу на зображенні особисто під вхідне зображення, яке передається для розбору глибинним нейромережам, які порівнюють ці вказівники з іншими зображеннями у своїй базі. Вкінці особистість людини визначається на основі найвищого показника подібности, який перевищує визначений поріг. Такі способи жваво використовуються в громадських місцях, включаючи метро, летовища, а також на підприємствах замість пропусків.
Втім, нейромережі, що використовуються в устроях розпізнавання, можна обдурити, а способи ввести їх в оману можна розділити на два види. До першого виду відносяться числові маніпуляції, наприклад, додавання до зображення деякого добре обробленого шуму. До другого виду відносяться способи обману вже в справжній площині, коли алгоритм обманюють безпосередньо тим, що він видить. Це може бути, наприклад, тискарення спеціальних узорів на оправі окулярів, наклейки на обличчі, яскраво причепурене лице і схожі маніпуляції. Правда, зробити це непомітно для оточуючих досить складно.
Як сховатися від алгоритмів?
Ізраїльські та японські дослідники розробили нейромережу, яка може підказати, як причепурити обличчя, щоб обдурити устрої розпізнавання лиць. Її робота складається з двох щаблів. Спершу алгоритм намагається повторити за устроями розпізнавання і глядає на обличчі ті самі вказівники, які можна вважати особливими.
Як наслідок, у вигляді теплової карти на зображенні обличчя людини виділяються області, які, на думку устроїв розпізнавання осіб, найкраще виділяють людину. Потім ця числова теплова карта використовується для створення числової проєкції чепуру, яку можна використовувати як настанову для нанесення чепуру в повсякденному світі, щоб не дати себе впізнати. Важливо відзначити, що нейромережа не покладається на яскраві кольорові палітри, а обмежується використанням природних відтінків чепуру. Щоб зображення виглядало природно, розробники використовували тільки тіні, рум'яна і помаду, а також контурування і зміну форми брів. Тобто чепур не використовувався для малювання узорів на обличчі, які можуть привертати погляди, а також не використовувалися синій, зелений, білий та інші кольори, які зазвичай не використовуються у щоденному чепурінні. Це важливо, адже це дозволяє одночасно уникати впізнавання, не привертаючи до себе вгляду оточуючих.
Дослідження проводилося на десяти чоловіках і десяти жінках у віці від 20 до 28 років. Кожен учасник був внесений до чорного списку дослідного устрою. Під час випробування, вчені використовували три лицьові зображення кожного учасника, два з яких були попередньо зареєстровані. Третій використовувався для створення двох додаткових зображень: одне з причепуренням обличчя, запропонованим алгоритмом, а інше з випадковим. Використання запропонованого нейромережею причепурення знизило показник успішности розпізнавання осіб з 42,6 відсотка до 0,9 відсотка у жінок і з 52,5 відсотка до 1,5 у чоловіків.
Дослідники не вперше глядають способи обманути алгоритми. Наприклад, вони перевіряли згорткові нейромережі на стійкість до зорових злуд та з'ясували, що невелика кількість згорткових шарів робить нейромережі такими ж вразливими, як і люди. Так само нейромережі для обробки зображень піддалися на стереотипи і на прикладах з всемережжя доповнили чоловічі поличчя вбраннями, а жіночі — глибоким викотом або бікіні. Хоча наділена первинною зоровою корою нейромережа не піддалася на обман і правильно розпізнала навіть спотворені шумом зображення, а навчений звертати вгляд на зіниці ока алгоритм відрізнив справжню світлину від згенерованої.
Ізраїльські та японські дослідники розробили нейромережу, яка може підказати, як причепурити обличчя, щоб обдурити устрої розпізнавання лиць. Її робота складається з двох щаблів. Спершу алгоритм намагається повторити за устроями розпізнавання і глядає на обличчі ті самі вказівники, які можна вважати особливими.
Як наслідок, у вигляді теплової карти на зображенні обличчя людини виділяються області, які, на думку устроїв розпізнавання осіб, найкраще виділяють людину. Потім ця числова теплова карта використовується для створення числової проєкції чепуру, яку можна використовувати як настанову для нанесення чепуру в повсякденному світі, щоб не дати себе впізнати. Важливо відзначити, що нейромережа не покладається на яскраві кольорові палітри, а обмежується використанням природних відтінків чепуру. Щоб зображення виглядало природно, розробники використовували тільки тіні, рум'яна і помаду, а також контурування і зміну форми брів. Тобто чепур не використовувався для малювання узорів на обличчі, які можуть привертати погляди, а також не використовувалися синій, зелений, білий та інші кольори, які зазвичай не використовуються у щоденному чепурінні. Це важливо, адже це дозволяє одночасно уникати впізнавання, не привертаючи до себе вгляду оточуючих.
Дослідження проводилося на десяти чоловіках і десяти жінках у віці від 20 до 28 років. Кожен учасник був внесений до чорного списку дослідного устрою. Під час випробування, вчені використовували три лицьові зображення кожного учасника, два з яких були попередньо зареєстровані. Третій використовувався для створення двох додаткових зображень: одне з причепуренням обличчя, запропонованим алгоритмом, а інше з випадковим. Використання запропонованого нейромережею причепурення знизило показник успішности розпізнавання осіб з 42,6 відсотка до 0,9 відсотка у жінок і з 52,5 відсотка до 1,5 у чоловіків.
Дослідники не вперше глядають способи обманути алгоритми. Наприклад, вони перевіряли згорткові нейромережі на стійкість до зорових злуд та з'ясували, що невелика кількість згорткових шарів робить нейромережі такими ж вразливими, як і люди. Так само нейромережі для обробки зображень піддалися на стереотипи і на прикладах з всемережжя доповнили чоловічі поличчя вбраннями, а жіночі — глибоким викотом або бікіні. Хоча наділена первинною зоровою корою нейромережа не піддалася на обман і правильно розпізнала навіть спотворені шумом зображення, а навчений звертати вгляд на зіниці ока алгоритм відрізнив справжню світлину від згенерованої.