ИИ начал признавать свои ошибки

Новая разработка в области искусственного интеллекта значительно улучшает работу нейросетей, позволяя им не только давать ответы на вопросы, но и признавать собственные ошибки или сомнения, когда информация недостаточно точна. Это новшество особенно важно в сферах, где точность данных и прозрачность алгоритмов играют критическую роль, например, в создании лекарств, сложном анализе и управлении автономными системами.

Платформа Capsa, разработанная компанией Themis AI, умеет работать с различными моделями машинного обучения. Она анализирует работу нейросети, отмечая моменты, когда могут возникнуть ошибки или когда наблюдается неуверенность в результатах. Это позволяет заранее выявить и исправить потенциально ошибочные решения, тем самым повышая надежность работы искусственного интеллекта.

Компания Themis AI была основана в 2021 году на базе Массачусетского технологического института. На сегодняшний день она сотрудничает с представителями разных отраслей, включая фармацевтику, телекоммуникации и топливно-энергетический сектор. Использование платформы Capsa помогает снизить количество ошибок в прогнозах и делает работу нейросетей более понятной и прозрачной для пользователей, пишет Ferra.ru.