В MIT придумали, как сделать работу нейронных сетей более прозрачной
Нейронные сети сегодня широко используются в науке и вычислительной технике. Прежде всего, искусственные нейронные сети важны при создании искусственного интеллекта. Именно поэтому исследователям очень важно понимать, что же происходит внутри сети, когда она, полагаясь на входные данные, принимает то или иное решение. Сотрудники Лаборатории компьютерных наук и искусственного интеллекта Массачусетского технологического института решили сделать работу нейронных сетей более прозрачными для лучшего понимания человеком.
Теперь нейронная сеть не просто даёт ответ на полученный вопрос, классифицирует что-либо или пытается предсказать дальнейшее развитие событий, но ещё и объясняет свои действия с рациональной точки зрения. Сегодняшние нейронные сети способны на очень многое. Вспомните, как недавно компьютер победил чемпиона мира по игре го – в этом заслуга прежде всего нейронной сети. Искусственные нейронные сети анализируют изображения во время поиска в Интернете, предсказывают слова, которые мы хотим ввести на клавиатуре, умеют сочинять литературные произведения и даже придумывают собственные алгоритмы шифрования данных.
Но главная проблема для учёных при работе с нейронными сетями заключается в том, что после их проектирования и запуска очень сложно понять, что происходит внутри них и как они на самом деле принимают решения. В случае с распознаванием изображений всё организовано достаточно просто, а вот когда дело касается обработки текстовых данных – здесь для исследователей начинается настоящий «тёмный лес». Именно поэтому разработчики из MIT решили разбить написанную ими нейронную сеть на два отдельных модуля. Первый из них занимается извлечением сегментов текста и сортировкой их по длине и последовательности символов. Второй модуль анализирует сегменты, пытается понять их смысл и, согласно результатам, классифицирует их.
В качестве испытания обновлённой системы исследователи предложили нейронной сети исследовать сайт с оценками пива от разных производителей, а затем расставить оценки различным сортам, исходя из их аромата, вкуса и внешнего вида. После небольшой тренировки система расставила свои баллы напиткам, при этом её суждения в 95% случаев совпали с мнениями большей части посетителей сайта. Например, касательно вкуса пива нейронная сеть поддержала 80% людей. При этом учёные впервые видели своими глазами то, как система работает с полученными данными и принимает свои решения. В данный момент исследователи продолжают совершенствовать систему и надеются на то, что в будущем их разработка будет не просто развлечением, но также позволит решать такие важные задачи, как, например, борьба с онкологическими заболеваниями.