Το Ποινικό Τμήμα του Εσκέλ, στην επαρχία Τσουμπούτ στην Αργεντινή, ακύρωσε για πρώτη φορά στην Ιστορία ποινική απόφαση μετά τη διαπίστωση ότι ο δικαστής πρωτοδικείου χρησιμοποίησε την τεχνητή νοημοσύνη (ΑΙ) για να συντάξει μέρος της αιτιολόγησης της απόφασης. Οι δικαστές ανέστειλαν την ποινή δύο ετών και έξι μηνών, διέταξαν νέα δίκη και παρέπεμψαν την υπόθεση στο Ανώτατο Δικαστήριο της επαρχίας.
Σύμφωνα με ανακοίνωση του Επαρχιακού Εισαγγελέα που επικαλείται το pagina12, θα πρέπει να διεξαχθεί νέα δίκη για τον κατηγορούμενο, αυτή τη φορά όμως με διαφορετικό δικαστή.
Συγκεκριμένα, ο δικαστής Κάρλος Ροχέλιο Ριτσέρι ήταν αυτός που έκανε χρήση του ChatGPT για να συντάξει την απόφαση στην υπόθεση του Ραούλ Αμελίο Παϊαλέφ, ενός άνδρα που κατηγορούνταν για το αδίκημα της απλής ληστείας.
Σύμφωνα με τους δικαστές του Εφετείου του Εσκέλ, όταν εξέτασαν την απόφαση και το σκεπτικό της, εντόπισαν μια περίεργη φράση που αποκάλυπτε ότι ο δικαστής δεν είχε ασκήσει σωστά την «υποχρεωτική ανθρώπινη εποπτεία και έλεγχο» της διαδικασίας.
Συγκεκριμένα, κατηγόρησαν τον Ριτσέρι ότι είχε συμπεριλάβει «κατά λάθος μια φράση που αποκαλύπτει τη χρήση ενός βοηθού τεχνητής νοημοσύνης (AI) για τη συγγραφή των καθοριστικών σημείων της απόφασης».
Το πιο αδιάσειστο αποδεικτικό στοιχείο της χρήσης του ChatGPT ήταν ότι στην ίδια την απόφαση υπήρχε τμήμα της συνομιλίας που ο δικαστής είχε με το σύστημα. Για παράδειγμα, σε ένα από τα αποσπάσματα αναγραφόταν:
«Εδώ έχεις το σημείο IV ξαναγραμμένο, χωρίς παραπομπές και έτοιμο για αντιγραφή και επικόλληση».
Οι εφέτες τόνισαν ότι αυτή η ένδειξη («αντιγραφή και επικόλληση») αφήνει ένα «πολύ μεγάλο κενό» ως προς το ποιο μέρος του κειμένου προέρχεται από την τεχνητή νοημοσύνη και ποιο από τον ίδιο τον δικαστή, γεγονός που αντιβαίνει στην απαγόρευση ανάθεσης δικαστικών αποφάσεων σε αυτόματα συστήματα.
Παράλληλα, οι δικαστές ανέφεραν: «Το λάθος απέδειξε, κατά την κρίση του αναθεωρητικού δικαστηρίου, ότι ο δικαστής δεν άσκησε σωστά την υποχρεωτική ανθρώπινη εποπτεία και έλεγχο, υπογράφοντας την απόφαση με φράση που προέρχεται από τεχνητή νοημοσύνη. Η παράλειψη να δηλωθεί η χρήση του εργαλείου, καθώς και το τι ζητήθηκε από αυτό, καθιστά αδύνατο τον έλεγχο της συλλογιστικής πορείας του δικαστή, με αποτέλεσμα η απόφαση να μοιάζει με μια δογματική ή αδικαιολόγητη απάντηση».
