Мощный инструмент

Мощный инструмент

Многие считают, что разумные машины будут лишены предвзятости, однако не следует забывать: эти машины будут создавать люди, и эти люди, разрабатывающие и взаимодействующие с ИИ, могут неосознанно наделить их своими же предубеждениями. С развитием ИИ последствия от накопления этих предубеждений будут становиться все более выраженными и в конечном итоге могут повлиять на различные процессы информационной обработки, например, при опознании той или иной личности или при сборе социальных данных человека, содержащихся в сетях государственных служб.

Так как технологии лицевого распознавания уже начинают проникать в нашу личную жизнь, многие начинают задумываться и уделять больше внимания вопросам этического характера, выражая озабоченность по поводу вероятной предвзятой работы подобных алгоритмов. Та же идея о том, что технологии могут существовать без какой-либо степени вложенных в них предвзятостей, очень спорна. Под серьезное сомнение ее ставит всего лишь один-единственный аргумент: эффективность работы ИИ будет зависит от тех данных, что были в него вложены, и среди этих данных может содержаться информация, которая была изначально окрашена предвзятым отношением человека, который создавал эту систему. С прогрессом разработок ИИ, с созданием машин, которые на самом деле способны обучаться, мы должны разработать ограничительные меры, способные защитить нас от ситуаций, когда эти машины смогут научиться у нас гораздо большему, чем мы намеревались их обучить.

Тем не менее тот же Хамон уверен, что его алгоритм полностью беспристрастен, по крайней мере настолько, насколько это вообще возможно. Его компьютерная система лишь интерпретирует признаки человеческого поведения, независимо от того, какой тип лица или тела находится в его поле зрения.

«Я коренной американец, и следует признать, что здесь иногда происходят вещи, способные накалять окружающую обстановку. Например, вы можете начать нервничать, когда за вашей спиной возникают полицейские. Однако я считаю, что подобные технологии в будущем смогут полностью искоренить этот фактор нервозности. Если вы не делаете ничего плохого, компьютер обязательно оповестит сотрудника полиции, что вы не делаете ничего плохого. Лично я в таком случае буду ощущать повышенный уровень своей собственной безопасности и защиты от полицейского произвола, зная о том, что компьютер сможет осуществлять подобный уровень оценки угроз».

В любом случае Хамон совсем не беспокоится об интерпретировании результатов анализа данных алгоритмом, который он создал. В то же время, несмотря на уверенность в своем алгоритме, он также признает и его ограниченность. Поэтому, если говорить о выводах, составленных на базе анализа, то, по мнению исследователя, это решение лучше оставить на экспертов правоохранительной системы, медицины и психиатрии.

Будущее разработок Хамона в компании Silver Logic Labs только начинается. И варианты сфер применения создаваемого им ИИ ограничены лишь человеческим воображением. Сам Хамон хочет, чтобы его инструмент стал по-настоящему универсальным и использовался при решении самых разных вопросов, однако так или иначе исследователя тянет туда, откуда все это началось: к созданию высококачественного развлекательного контента.

«Повествование – это часть человеческой культуры», — говорит Хамон.

Благодаря своей работе он обнаружил как минимум один неподдающийся оценке элемент, являющийся ключом к медиауспеху.

«Человек по-настоящему наслаждается наблюдением за тем, как один люди взаимодействуют с другими. Это одна из тех вещей, которая составляет формулу успеха», — добавляет исследователь.

Несмотря на то, что общество, возможно, может негативно воспринимать те трансформации, которые ИИ обещает привнести в нашу жизнь, в видении Хамона, безусловно, можно найти и один очень положительный момент. Рано или поздно искусственный интеллект на основе всех собранных им данных однажды сможет подвести нас к пересмотру нашего представления о том, что на самом деле значит быть человеком. Возможно, он сможет увидеть в нас то, что мы никогда раньше сами не видели в других или в нас самих.