ИИ слишком силен, чтобы инженеры могли с ним справиться в одиночку

Главная » Новости » Исследования
Добавить в закладки
По Стив Буш 3 декабря 2020 г.

ИИ слишком силен, чтобы инженеры могли с ним справиться в одиночку
Искусственный интеллект слишком силен для инженеров, чтобы с ним справиться в одиночку, — один из выводов исследования автономных систем и человечества, проведенного Техасским университетом в Остине. Напротив, будущие проекты должны определяться широким кругом заинтересованных сторон в обществе.

UofTexas-LivingWithAutonomousSystems
Было задействовано более 100 американских экспертов по автономии, работа которых была объединена в отчете (см. Ниже), заказанном Консорциумом вычислительного сообщества (CCC).

«Управление автономными системами должно осуществляться на стыке науки, технологий, общества, политики и управления», — сказал инженер Уфук Топку из Техасского института вычислительной техники и науки Оден, руководивший исследованием.

«Наука и технологии всегда нарушали статус-кво, но эти системы отличаются от более ранних технологий», — говорится в отчете. «Замена людей и человеческого интеллекта машинами и машинным интеллектом заменяет существующие рамки законов, этики, морали, норм, а также существующие технологии».

Например, технический недостаток в программном обеспечении автономной системы нельзя рассматривать только как ошибку. «Эта ошибка может быть потенциальным нарушением закона и / или морали», — сказал Топчу. «Автономия — это социально-экономическая возможность, а также проблема, и общественность будет воспринимать ее неодинаково и на нее повлиять».

Основная рекомендация отчета — создание сети институтов, которые могли бы легко обмениваться идеями, опасениями и, в конечном итоге, разрабатывать нормативную базу и систему обеспечения качества, которая станет основой будущих достижений.

CCC призвал к реализации национальной исследовательской стратегии для обеспечения уверенности с участием заинтересованных сторон в правительстве, академических кругах, промышленности и обществе.

«Автономные системы — это не просто чудеса инженерии. Они влияют на людей, группы и даже культуру в целом, — сказал Арт Маркман из колледжа гуманитарных наук Техасского университета. «Привлечение экспертов из ряда дисциплин, включая гуманитарные, социальные и поведенческие науки, станет решающим шагом во избежание непредвиденных последствий внедрения новых технологий».

По словам директора Института Одена Карен Уиллкокс, пора «расширить наше междисциплинарное мышление за пределы областей STEM». «Автономия является ярким примером области, в которой междисциплинарные подходы вычислительной науки — объединение строгого математического моделирования с передовыми вычислениями и опытом в предметной области — будут играть решающую роль в разработке более совершенных и безопасных систем, но существует острая необходимость в создании глубоких сотрудничество в области исследований и образования с гуманистами и социологами ».