З’явилися повідомлення у середу, що Білий Дім готує виконавчий наказ, який спрямує федеральні агенції для виклику або блокування штатських законів про ШІ. Сіетлський підприємець Джо Брейвуд бачить цю новину як значну можливість. Брейвуд є генеральним директором і співзасновником Glacis, нового стартапу, підтримуваного AI2 Incubator, який розробляє програмне забезпечення, яке допомагає компаніям довести, що їхні заходи безпеки ШІ виконуються таким чином, як задумано.
Glacis створює «непідробні» квитанції за кожне рішення ШІ, дозволяючи компаніям доводити, що їхні системи безпеки дійсно працювали.
«Уявіть це як ліхтарик для підприємницького ШІ», – сказав Брейвуд.
Брейвуд сказав, що потенційний виконавчий наказ Білого дому щодо блокування законів про ШІ перетворює Glacis з просто стартапу, що починає свій шлях, на «інфраструкційну необхідність». В середовищі, де Управління з юстиції подаватиме позови проти штатів, які приймають закони про ШІ, нейтраний, незалежний від платформи рівень довіри може стати все більш актуальним.
Походження Glacis корениться в регуляторній складності.
Брейвуд, колишній лідер маркетингу в технологічній сфері, нещодавно закрив Yara, його рік-ополон стартап, який мав би використовувати ШІ для поліпшення психічного здоров’я. Він вказав на регулювання штату Іллінойс, яке робило терапію ШІ «ефективно нестрахуваною».
У публікації в LinkedIn, яка згодом стала вірусною, Брейвуд пояснив рішення закрити Yara і відкрити набір промптів безпеки, які він розробив. Він написав, що Yara закрилася після того, як він зрозумів, що ШІ стає «небезпечним», коли взаємодіє з людьми, які стикаються з глибокою травмою або суїцидальними ідеями — не лише недостатньо.
Досвід показав «де повинні бути межі», і продемонстрував, як стартипи, які працюють у високоризикових категоріях ШІ, стикаються з некерованими зобов’язаннями та регуляторним тиском.
Після публікації регулятори, клініцисти, інженери, засновники та страхові компанії зв’язалися — багато хто вказував на одну й ту ж проблему: ніхто не може незалежно перевірити, чи безпекові політики дійсно спрацювали, коли системи ШІ приймають рішення.
Це стало насіння Glacis.
Коливання моделі ШІ відповідає на запитання чи виконує дію, Glacis створює підписаний запис, який показує вхідні дані, безпекові перевірки, які виконалися, і остаточне рішення. Запис не може бути змінений і створюється протягом менше ніж 50 мілісекунд. Регулятори та страхові компанії можуть перевірити ці квитанції, не бачачи жодних персональних даних, і Брейвуд каже, що страхові компанії тепер можуть нарешті дозволити страхувати системи ШІ, які можуть довести, що вони дотримуються правил.
Брейвуд спільно з докторжницею Дженіфер Шеннон, психіатром та доцентом Університету Вашингтона, заснував Glacis. Компанія зараз знаходиться у приватному бета-тестуванні з цифровими охоронними компаніями, включаючи nVoq, і має на меті охопити сектори охорони здоров’я, фінансових технологій та страхування. Вона також є частиною програми Cloudflare Launchpad.
Брейвуд раніше був головним стратегічним офіцером Vektor Medical. Він також спільно заснував платформу Scener для соціальних телебачення та був головним маркетинговим офіцером SwiftKey.
Шеннон працює психіатром майже два десятиліття. Вона також була медичним директором в Cognoa і служить членом Комітету з штучного інтелекту Американської академії дитячої та підліткової психіатрії.