IT обозрение


Новости интернета и компьютерных технологий

Гибридизация человека и машины может привести к катастрофе

Октябрь 12
13:26 2018

Несмотря на прогнозы о тотальной автоматизации, большинство алгоритмов пока не обходится без участия человека. Часто такое сотрудничество заканчивается провалом. Financial Times выясняет, чем опасна гибридизация людей с машинами.

Большинство экспертов сходится во мнении, что в будущем человек будет работать в связке с системами искусственного интеллекта. Кто-то называет это будничным сотрудничеством, кто-то использует термины «симбиоз» и даже «киборгизация». Предполагается, что гибридные решения, принятые людьми и машинами, будут более взвешенными и продуманными. Но, как отмечает профессор MIT Дэвид Минделл, на практике все складывается иначе.

Примером может послужить случай ДТП с участием робомобиля Uber, в результате которого погиб пешеход. За рулем машины сидел водитель, однако в опасной ситуации она не успела среагировать и взять управление под свой контроль. Позднее стало известно, что водитель не следила за движением, а смотрела видео на смартфоне.

Эксперты считают, что системы такого типа предъявляют человеку нереалистичные требования. Алгоритм выполняет работу автономно, но внезапно может отключиться.

В этих условиях человек должен постоянно быть начеку. При этом реальный риск возникновения опасной ситуации зачастую минимален.

Иногда оператор слишком доверяет алгоритму и не может объективно оценивать действия системы. Чаще всего с этим сталкиваются врачи, которые используют в работе автоматизированные программы диагностики и прогнозирования. Хотя финальное решение принимает доктор, он все равно частично подчиняется ИИ.

Ситуацию усугубляют маркетинговые легенды, которые продвигают корпорации. Так, IBM подключала к суперкомпьютеру Watson больницы по всему миру, однако компания преувеличивала возможности устройства. Медицинский ИИ неоднократно совершал врачебные ошибки, а IBM стали больше интересовать контракты со страховыми компаниями, а не реальные исследования.

Специалисты по компьютерным технологиям признают, что пока гибридные связки человека и машины далеки от совершенства. Если их не доработать, то катастроф не избежать.

Более того, у общества может сформироваться негативное восприятие искусственного интеллекта и сопутствующих технологий. Некоторые аналитики допускают, что в результате наступит «зима ИИ» — так в 1980-е называли период застоя в развитии машинного интеллекта, вызванный всеобщим разочарованием.

Однако наладить взаимосвязь между человеком и алгоритмом не так просто, как кажется. Во-первых, люди и машины используют разные системы знаков, что затрудняет коммуникацию в экстренной ситуации. Вторая проблема — это загадка ИИ.

Многие алгоритмы устроены по принципу черного ящика, так что никто — даже сами разработчики — не знает, как именно они принимают решения. Причем чем сложнее и «умнее» система, тем более закрытой она оказывается.

Некоторые эксперты предлагают разработчикам исходить из потребностей человека и создавать алгоритмы, предназначенные для общения с людьми. Инженерам следует изучать психологию, чтобы лучше адаптировать ИИ к реальной коммуникации. С этим согласен и профессор Дэвид Минделл: «Компьютерным наукам придется пройти долгий путь, чтобы научиться взаимодействовать с людьми».

О необходимости исследовать психологию говорят и в контексте этики. Многие разработчики проектируют сложные алгоритмы, которые напрямую влияют на жизнь человека, без какой-либо предварительной этической оценки. Именно поэтому эксперты считают, что в будущем гуманитарные дисциплины станут стандартом при подготовке специалистов в области ИИ.

Источник: hightech.plus

0 Комментариев

Хотите быть первым?

Еще никто не комментировал данный материал.

Написать комментарий

Комментировать


Переводчик текста

с  на


Система - точный переводчик текста