AI без галлюцинаций

AI без галлюцинаций

ChatGPT и подобные сервисы генерируют не правдивые, а правдоподобные ответы. Несколько идентичных запросов к нейросети легко могут привести к противоположным по смыслу результатам, которые смотрятся одинаково красиво. И во многих применениях – это совершенно не проблема. Если электронный продажник одному клиенту скажет, что скидок нет, а другому тут же сбросит 15% – так почему бы и нет, человек в такой ситуации тоже бывает непоследователен.

Однако есть ситуации, когда мы хотим от искусственного интеллекта другого поведения. Электронный судья должен выписывать правильные приговоры, а не случайные, галлюцинации тут неуместны. И вот тут должны работать нейросети американского #стартапдня Elemental Cognition. По крайней мере, его основатели на это надеются.

В компании называют свою технологию “нейро-символическим ИИ”. По их описанию, нейронная часть находит подходящие варианты ответа, а символическая использует математическую логику и проверяет, имеют ли эти ответы смысл – и так якобы защищается от ерунды. Кроме того, пользователь видит и может перепроверить источники информации, которыми пользовался AI.