Суддя у США покарав позивача за приховані інструкції для штучного інтелекту в судових документах

Суд штату Коннектикут виніс санкції проти позивача, який намагався замаскувати інструкції для штучного інтелекту в офіційних судових паперах, зробивши їх невидимими для людського ока.

Згідно з рішенням судді Вальтера Спедера-молодшого від 6 серпня, суд виявив у документах текст, написаний мікроскопічним шрифтом білого кольору. Хоча люди не могли його прочитати, будь-яке програмне забезпечення чи цифрова система з легкістю розпізнавали такі приховані фрази. За словами судді, житель Коннектикуту Метью Елліотт, який захищає свої інтереси в суді самостійно, застосував так звану “ін’єкцію промптів” (prompt injection). У такий спосіб він намагався змусити будь-яку систему штучного інтелекту, що аналізує матеріали, видати результат виключно на користь позивача та визнати попереднє рішення канцелярії помилковим.

Навіть після попередження судді щодо неприпустимості прихованого тексту, чоловік додав інші приховані слова у наступні документи, які згодом назвав жартами. Сам Елліотт пояснив журналістам Reuters, що хотів у такий спосіб «проаудитувати» процеси перевірки судової документації.

Судді по всім Сполученим Штатам регулярно стикаються з новими проблемами через стрімке поширення ШІ, зокрема з вигаданими справами та «галюцинаціями» нейромереж. Проте суддя Спедер зазначив, що йому не відомі інші прецеденти в судовій практиці США, які б стосувалися саме маніпуляцій із промптами. Водночас він згадав схожий випадок у Бразилії, де цього року оштрафували двох адвокатів за інструкції для місцевої автоматизованої системи ШІ.

Суддя уточнив, що Судова гілка влади Коннектикуту не використовує штучний інтелект для перевірки чи ухвалення рішень по справах. Тим не менш, він наголосив, що приховування команд є прямим доказом «зловмисного наміру», попри його загалом позитивне ставлення до використання ШІ учасниками судових процесів.

У якості покарання суд заборонив Елліотту надсилати електронні документи до суду, зобов’язавши його надавати всі папери виключно в друкованому вигляді безпосередньо через канцелярію. Сам судовий розгляд стосується позову проти медичної компанії New York Bariatric Group через звинувачення у дискримінації та порушеннях під час надання медичних карток.