Человечество уже давно встало на путь делегирования своих жизненных задач машинам, и чем дальше, тем более сложные функции мы готовы передавать. С развитием искусственного интеллекта, который справляется с рядом ситуаций не хуже человека, позиция самого человека становится все более уязвимой.
Человек vs. искусственный интеллект
С одной стороны, мы знаем, что наши познавательные способности отнюдь не совершенны. Когнитивные искажения приводят к неправильным решениям. Внимание ограничено и не стабильно, иногда не позволяет вовремя заметить важное. Память не приспособлена к хранению точных фактов, которые могли бы пригодиться в разных ситуациях.
Усилить свои возможности нам помогают технологии. Мы получим доступ ко всем знаниям мира через смартфон. Проблемы со вниманием на дороге решит автопилот в автомобиле. Нейросеть примет лучшего кандидата на работу.
С другой стороны, человеческое познание и поведение, в отличие от самого умного устройства, направлено и мотивировано. В отличие от человека, гаджеты действуют реактивно, не могут распознать реальных намерений пользователя и нюансов контекста, в котором действует человек.
Когнитивист Дональд Норман задает вопрос, который отражает суть проблемы доверия в передаче устройствам права принимать решения:
“Наступит ли день, когда мы столкнемся с конфликтом искусственных интеллектов: холодильник предложит вам поесть, а весы заявят, что этого делать не следует?”
Кто ответит за безопасность?
Кто в конечном счете отвечает за ошибочные решения устройств и технологий? Если человек доверил искусственному интеллекту водить его машину, кого можно считать виновным в аварии? Это уже не теоретические вопросы, а вполне реальные случаи, за которыми стоят деньги и доверие к крупным производителям.
Вопрос о безопасности и доверии в мире, где каждое твое взаимодействие с техникой, от пылесоса до кофеварки — цифровой след, который можно использовать, приобретает не меньшую актуальность. Стоит ли доверять выводам умного устройства, которые оно делает на основе анализа твоих данных? Не рискует ли человек своей безопасностью, передавая свое местонахождение гаджету?
Исследователи говорят о том, что на доверие к безопасности данных влияет множество факторов, как связанных с самой технологией (прозрачность и понятность интерфейса, предупреждающие сообщения и политики), так и не связанных с ней (оценка риска, социальные нормы, образование и опыт).
Повсеместное присутствие умных устройств, их новизна и ограниченность интерфейса будут создавать барьер доверия из-за недостаточной прозрачности использования персональных данных. В самом деле, мы привыкли доверять или не доверять чему-то на основе информации, которая просто перестаёт быть доступной в мире, напичканном умной техникой.
«Парадокс конфиденциальности»
Что знает ваш робот-пылесос такого, что может быть продано третьи лицам? Сможете ли вы ответить на этот вопрос, не подглядывая в интернет? А подглядывая? А если вы пришли в чужой офис и выпили кофе, есть ли гарантия, что кофе-машина не посчитала вас и не сделала соответствующих выводов?
Несмотря на то, что большинство людей говорят о важности приватной информации и ее защите, на практике многие люди действуют так, как если бы им было все равно. Такое расхождение получило название «парадокса конфиденциальности», которое лишний раз подчеркивает, насколько плохо пока человек справляется с усложнённой и обогащенной им же цифровой и технической средой.
Осознавая свою уязвимость и недостаточную подготовку к жизни в цифровую эпоху, человечество должно озаботиться новыми подходами и правилами, позволяющими вернуть контроль над ситуацией. Нам предстоит снова занять своё место — место авторов, субъектов, управленцев. Организмов, которые действуют целенаправленно, а значит — могут принимать окончательные решения, независимо от того, что подсказывают нам наши технические помощники.
Хотите больше узнать об авторе? Мария Данина. Большое интервью с психологом и ученым
Эту статью отлично дополняют:
Навыки, без которых не обойтись в цифровом мире
