Ученые создают электронный язык для искусственного интеллекта
Ученые из Пенсильванского государственного университета, США, разработали электронный язык, который способен различать вкусы с точностью, даже превосходя человеческие возможности. Это устройство может не только произвести революцию в способах обнаружения химических изменений и изменений окружающей среды, но и стать ключом к пониманию того, как ИИ принимает решения.
Фото из открытых источников
Сенсор устройства, основанный на графене, способен эффективно классифицировать различные вещества и оценивать их качество, подлинность и свежесть. Эти данные, опубликованные в журнале Nature, могут помочь решить проблему «черного ящика» в искусственном интеллекте — непонимание того, как ИИ принимает решения и приходит к определённым результатам.
Команда исследователей под руководством профессора Саптарши Даса изучила, как нейронная сеть определяет различия между напитками, например, пробуя молоко, кофе и газированные напитки.
«Мы пытаемся создать искусственный язык, но процесс восприятия разных продуктов включает в себя не только язык», — объясняет профессор Дас.
Электронный язык достиг более 95% точности в дегустации, основываясь на параметрах, выбранных человеком. Однако интересным открытием стало то, что нейронная сеть сосредоточилась на данных, которые она посчитала наиболее важными для определения различных вкусов, а не на параметрах, заданных людьми. Это стало возможным благодаря так называемым аддитивным объяснениям Шепли.
«Мы обнаружили, что нейросеть обращала внимание на более тонкие характеристики данных — на то, что мы, люди, с трудом можем правильно определить», — добавил профессор Дас.
Например, в случае с молоком, нейронная сеть может определять изменяющееся содержание воды и выявлять признаки порчи, значимые для безопасности пищевых продуктов.
Возможно, вскоре мы сможем не только доверять ИИ в вопросах безопасности, но и понимать, как он приходит к своим выводам.
Смотреть комментарии → Комментариев нет