Каліфорнійський стартап RagaAI успішно привернув інвестиції у розмірі $4,7 млн для розробки інноваційних програмних засобів, спрямованих на виявлення дефектів у нейромережах.
За інформацією від Bloomberg, ці рішення можуть революціонізувати проблематичні аспекти інтелектуальних систем, такі як “галюцинації” та неповна надання критичної інформації в реальному часі.
За спиною стартапу стоїть Гаурав Агарвал, вихідець з компаній NVIDIA та Texas Instruments, який зазнав неприємного інциденту з системою автономного водіння. Його власний досвід висвітлює необхідність створення революційних інструментів для виявлення та усунення недоліків в роботі нейромереж.
Засновник RagaAI розповів, що йому випадало стикатися з проблемами нейромереж під час роботи в NVIDIA і Ola.
Він наголосив на важливості виправлення помилок у системах штучного інтелекту в контексті високо відповідальних областей, таких як діагностика онкології, обслуговування авіаційної техніки та вибір персоналу.
Платформа RagaAI, розроблена в Каліфорнії, вже дозволяє корпоративним клієнтам провести понад 300 тестів для виявлення слабких місць у їхніх системах штучного інтелекту.
Ця інноваційна технологія дозволяє виявляти проблеми з розпізнаванням об’єктів, виникненням “сміття” та хибними даними. Крім того, вона ефективно захищає від атак на мовні моделі, які можуть призвести до неправильної роботи.