22 lutego 2023 roku Joshua Browder, prezes firmy DoNotPay (Nie płać), chciał użyć ChatGPT do obrony swojego klienta w sądzie w Kalifornii. Pierwotnie założona do obsługi mandatów parkingowych firma DoNotPay Inc. rozszerzyła działalność posługując się sloganem „World’s first robot lawyer” (Pierwszy robot-prawnik świata).
Sprawa z lutego 2023 również dotyczyła wykroczenia drogowego i miało to być pierwszy w historii przypadek wykorzystania sztucznej inteligencji do obrony prawnej, gdzie oskarżony nosiłby specjalne okulary, które łączyłyby się z generatorami tekstu opartymi na uczeniu maszynowym (sztuczna inteligencja). Te generatory tekstu do ucha dyktowałyby odpowiedzi wszelkie pytania wobec klienta/oskarżonego. Ostatecznie jednak Browder zrezygnował z tego pomysłu po tym, jak izba adwokacka zagroziła skierowaniem tej sprawy do prokuratury.

Sprawę komentuje prof. Chris Hoofnagle, szef Centrum Prawa i Technologii, Uniwersytetu Berkley:

„Jednym z powodów, dla których uczę programowania Python dla studentów prawa, jest to, że uważam, że nastąpi rewolucja w czasie Waszej kariery, być może nie mojej, gdzie komputery będą używane znacznie częściej lub obliczenia będą wykonywane znacznie częściej do wykonywania zadań prawnych. Czy oznacza to koniec zawodu adwokata? Nie sądzę. Ale może to oznaczać większą efektywność i przynieść nowe sposoby zadawania pytań, nowe sposoby wyszukiwania informacji, co obecnie idzie nam bardzo słabo. Chodzi o sytuacje, gdzie różne firmy i kancelarie prawne mają ludzi zajmujących się przeglądem milionów dokumentów, milionów e-maili. To oczywiste, że wszystkie te dane zostaną przeniesione do systemu takiego jak OpenAI, który mógłby poszukać, przynajmniej przeprowadzić pierwszą weryfikację, szukając informacji ważnych lub szukając informacji dowodzącej lub obciążającej, lub jakichkolwiek innych informacji potrzebnych w sprawie. Możemy również zobaczyć, jak systemy takie typu ChatGPT są wykorzystywane do sporządzenia szkicu tego lub innego dokumentu. Przecież wielu prawników nie zajmuje się tak naprawdę procesem sądowym. Po prostu wysyłają listy i komunikują się z ludźmi. ChatGPT doskonale radzi sobie z krótkimi i zwięzłymi listami, więc może dawać pierwszy szkic dokumentu. Nadal jestem optymistycznie nastawiony do adwokatury jako zawodu, ponieważ wciąż celem naszego zawodu jest móc powiedzieć: mój przypadek nie pasuje do reguły, mój przypadek jest szczególny. A to wymaga ludzkiej perswazji”.

Pełna wypowiedź i wywiad z profesorem znajduje się na stronie podcastu Berkeley Technology Law Journal Podcast: The Capabilities and Limitations of ChatGPT with Professor Chris Hoofnagle.