Δικηγόρος στο Νέο Μεξικό καταδικάστηκε για χρήση ChatGPT με πλαστές μαρτυρίες σε έφεση φόνου

Ο δικηγόρος Στίβεν Άαρονς επιβαρύνθηκε με πρόστιμο 5.000 δολαρίων και παραπέμπεται σε πειθαρχικό συμβούλιο. Το δικόγραφο περιείχε ανύπαρκτες καταθέσεις και πρόσωπα.

Πλαστές καταθέσεις από ChatGPT σε υπόθεση δολοφονίας στο Νέο Μεξικό

Το Ανώτατο Δικαστήριο του Νέου Μεξικού επέβαλε πρόστιμο 5.000 δολαρίων στον δικηγόρο Στίβεν Άαρονς, αφού διαπίστωσε ότι δικόγραφο που κατέθεσε στο πλαίσιο έφεσης για υπόθεση δολοφονίας περιείχε ανύπαρκτες μαρτυρίες και πρόσωπα που ουδέποτε εμφανίστηκαν στη δίκη. Σύμφωνα με τη Naftemporiki, το δικαστήριο αποφάσισε επίσης να διαβιβάσει την υπόθεση στο πειθαρχικό συμβούλιο του δικηγορικού συλλόγου.

Ο Άαρονς, που διατηρεί γραφείο στη Σάντα Φε, ανέλαβε την έφεση του Όσκαρ Ρενέ Σαντοβάλ, καταδικασμένου σε ισόβια κάθειρξη για τη δολοφονία της μητέρας των παιδιών του. Ο Σαντοβάλ έχει δηλώσει αθώος και η έφεσή του παραμένει εκκρεμής· στις αρχές Σεπτεμβρίου ορίστηκε νέα συνήγορος για την υπόθεση, η δημόσια υπερασπίστρια Κιμ Τσάβες Κουκ.

Κατά την προετοιμασία της έφεσης, ο Άαρονς χρησιμοποίησε το ChatGPT για να συνοψίσει το υλικό της δίκης. Υποστήριξε ότι τροφοδότησε το σύστημα με απομαγνητοφωνημένες καταθέσεις και λοιπά στοιχεία, εκτιμώντας ότι το αποτέλεσμα θα ήταν αξιόπιστη περίληψη. Το εργαλείο, ωστόσο, παρήγαγε πληροφορίες που δεν υπήρχαν στη δικογραφία — μεταξύ άλλων, υποτιθέμενες δηλώσεις σχετικά με την εμφάνιση του δράστη, όπως ότι «φορούσε σκούρο παντελόνι και λευκό μπλουζάκι», καθώς και αναφορές σε αστυνομικούς και περιστατικά που ουδέποτε είχαν καταγραφεί.

Ο δικηγόρος παραδέχθηκε τη χρήση του ChatGPT και εξέφρασε μεταμέλεια, επικαλούμενος άγνοια ως προς την έκταση των λεγόμενων «παραισθήσεων» της τεχνητής νοημοσύνης. «Έχω μετανοήσει, αλλά διατηρώ την ελπίδα ότι το πειθαρχικό συμβούλιο θα λάβει υπόψη του ότι ήταν ένα ειλικρινές λάθος», δήλωσε στο Reuters. Χαρακτήρισε επίσης την υπόθεση ως μάθημα για κάθε επαγγελματία που χρησιμοποιεί εργαλεία τεχνητής νοημοσύνης στην εργασία του.

Οι δικαστές δεν πείστηκαν ότι ο Άαρονς αγνοούσε τους κινδύνους. Η δικαστής Σ. Σάνον Μπέικον αντιμετώπισε με ιδιαίτερη αυστηρότητα την εξήγησή του, υπογραμμίζοντας ότι οι κίνδυνοι από τις ανακριβείς απαντήσεις της τεχνητής νοημοσύνης έχουν γίνει πλέον ευρέως γνωστοί. Το δικαστήριο επεσήμανε ότι ένας δικηγόρος δεν μπορεί να μεταφέρει σε αλγόριθμο την ευθύνη για την ακρίβεια δικαστικού εγγράφου.

Η υπόθεση δεν είναι μεμονωμένη. Τους τελευταίους μήνες, πολιτειακά και ομοσπονδιακά δικαστήρια των ΗΠΑ έχουν επιβάλει κυρώσεις σε δικηγόρους που κατέθεσαν έγγραφα συνταχθέντα με εργαλεία τεχνητής νοημοσύνης χωρίς επαρκή επαλήθευση. Σε αρκετές περιπτώσεις, τα συστήματα AI παρέθεσαν ανύπαρκτες δικαστικές αποφάσεις, εσφαλμένες νομικές αναφορές ή απέδωσαν σε πραγματικά πρόσωπα δηλώσεις που ουδέποτε έκαναν.

Η υπόθεση Άαρονς ενισχύει τους αυξανόμενους προβληματισμούς για τη χρήση τεχνητής νοημοσύνης στον νομικό κλάδο, όπου η δυνατότητα επαλήθευσης κάθε πληροφορίας αποτελεί βασική προϋπόθεση για τη διεξαγωγή δίκαιης δικαστικής διαδικασίας.

Source: Naftemporiki