Pierwszy udokumentowany atak prompt injection na sąd w USA. Sędzia zablokował powodowi elektroniczne składanie pism

Amerykańskie sądy coraz częściej muszą brać pod uwagę wykorzystanie dużych modeli językowych (LLM) przez strony postępowań. Żaden sąd w USA nie wdrożył jednak oficjalnie AI do oceny pism procesowych. Jeden z powodów w sprawie prowadzonej w Connecticut postanowił sprawdzić, czy jego pozew mimo to trafi pod analizę modelu. Ukrył w dokumencie instrukcję dla AI. Eksperyment gwałtownie przerodził się w sprawę sądową i przykład prompt injection.