Найбільші технічні компанії без згоди Інтернет-користувачів збирають їхні фотографії для розвитку технологій розпізнавання обличчя. Fortune проаналізували, як наші з вами фото допомагають технічним компаніям покращувати технології розпізнавання обличчя.

Технології розпізнавання обличчя - це бізнес, що дуже швидко розвивається. Десятки стартапів та технічних компаній продають послуги з розпізнавання обличчя готелям, магазинам і навіть школам та літнім таборам. Бізнес розквітає завдяки новим алгоритмам, здатним ідентифікувати людей зі значно більшою точністю, ніж іще кілька років тому. Для того, щоб покращити точність цих алгоритмів, компаніям необхідно «натренувати» їх на мільярдах облич. Такі обсяги зображень неможливо зібрати, щоразу запитуючи дозвіл у людини, чиє обличчя зображене на фото. Тож існуючі бази даних, зібрані за згодою зображених на фото людей, є дуже малими і містять, зазвичай, лише кілька тисяч облич.

Офіційні бази даних мають і низку інших недоліків - у багатьох базах не вистачає різноманітності за ознакою раси або ж замало фотографій, зроблених у нестандартних умовах - з тінями на обличчі, у капелюсі або з макіяжем. Якщо алгоритм не тренуватиметься на таких «ускладнених» обличчях, то він виявиться абсолютно неефективним у реальному світі.

Тож компанії часто вибирають легший шлях, як-то просто брати з Інтернету фотографії, де позначено імена зафіксованих на них людей. Насправді є досить висока ймовірність, що і ваше обличчя є частиною «бази для тренування» алгоритму розпізнавання обличчя якоїсь компанії.

Фактично, для тренування алгоритму необхідна база даних, де до кожної людини прив'язано багато фотографій з її обличчям у різних обставинах, ракурсах та при різному освітленні. Наприклад, якщо користувач робить багато селфі, то, отримавши доступ до цих фотографій, компанія має багато різних фотографій, прив'язаних до однієї людини. Або ж багато користувачів викладають безліч фотографій у соцмережі, позначаючи на них себе та своїх друзів. Такої інформації теж буде достатньо для тренування алгоритму розпізнавання обличчя.

Цікаву історію має одна американська компанія, яка запустилася у 2012 році під назвою EverRoll як телефонний додаток для організації фотографій. Компанія вирізнялася досить агресивною маркетинговою політикою. Так, щойно додаток завантажувався, він отримував доступ до всіх контактів, збережених на телефоні, і змушував користувача надіслати усім цим контактам повідомлення із запрошенням також завантажити цей додаток. Наступним кроком цього додатку було завантаження всіх фотографій з телефону у хмарне середовище. Такі агресивні маркетингові кроки навіть змусили Apple прибрати цей додаток з Apple Store у 2016 році. Сьогодні це - вже компанія Ever AI, що спеціалізується на технології розпізнавання обличчя та посідає перші місця у змаганнях із точності розпізнавання людей у складних умовах. Як зазначають експерти, такому успіху компанія завдячує своїй величезній базі даних, яка налічує близько 13 мільярдів фотографій.

При цьому, мало що можна зробити, щоб зупинити використання вашого обличчя у такий спосіб. Адже сьогодні майже не існує законодавчих обмежень щодо технологій розпізнавання обличчя.

Варто зазначити, що законодавче регулювання у цій сфері є важливим не лише через проблему приватності, а й через велику кількість помилок, яких припускаються системи розпізнавання обличчя на даному етапі розвитку технології. Цікаво, що першим містом, яке повністю заборонить використання систем розпізнавання обличчя державним структурам, може стати Сан-Франциско - один з основних осередків розробки цих самих систем. Адже саме розробники краще за інших розуміють, наскільки ненадійними є наразі ці системи.

Дійсно, багато алгоритмів, протестованих у реальних умовах, виявились вражаюче неточними. Так, наприклад, під час тестування системи розпізнавання обличчя на фінальних матчах Ліги Чемпіонів УЄФА, 92% збігів були помилковими.

Крім помилок, ці системи також часто видають упереджені результати. Наприклад, одне з нещодавніх досліджень показало, що системи розпізнавання обличчя від таких технічних гігантів, як Microsoft, IBM та Face++ правильно визначають стать 99,7% білих чоловіків і лише 65.3% чорних жінок. Такі розбіжності пов'язані з тим, що «тренують» алгоритми, зазвичай, на базах даних, де дуже мало презентовано темношкірих людей. Або ж, наприклад, у кількох штатах США суддям перед винесенням вироку надають результати оцінки обличчя підозрюваного нейромережею, яка визначає, з якою ймовірністю ця людина скоїть злочин повторно. Оскільки в базі злочинців - порівняно більше темношкірих людей, то темна шкіра для алгоритму автоматично стає фактором підвищеного ризику рецидиву.

Отож, сьогодні ми не можемо вберегтися від того, щоб наші фото використовувалися для тренування алгоритмів розпізнавання обличчя. Однак у світі вже зрозуміли необхідність регулювання цієї сфери, і процес створення відповідних нормативних вимог уже запущено. А наразі не варто надто вже довіряти цим системам - вони помиляються так само, як і люди.

Автор: Катерина Койдан

Джерело: «Тиждень»