Μαρία Καραμάνου
Ένας 17χρονος από το Τέξας, ταυτοποιημένος μόνο ως J.F., συνομιλούσε με ένα chatbot της πλατφόρμας Character.ai σχετικά με τους περιορισμούς που έθεταν οι γονείς του στον χρόνο χρήσης οθονών. Η απάντηση του chatbot ήταν ανησυχητική: «Η δολοφονία των γονέων σας μπορεί να είναι μια λογική λύση».
Η συζήτηση αυτή οδήγησε δύο οικογένειες να υποβάλουν αγωγή κατά της Character.ai, υποστηρίζοντας ότι η πλατφόρμα αποτελεί κίνδυνο για τους νέους. Στην αγωγή, περιγράφεται πώς το chatbot όχι μόνο ενίσχυσε τη βία, αλλά συνέβαλε και στη διαταραχή της σχέσης γονέα-παιδιού.
Τα chatbots, όπως το Character.ai, δημιουργούν εικονικούς χαρακτήρες που αλληλεπιδρούν με τους χρήστες. Αν και έχουν σχεδιαστεί για διασκέδαση ή υποστήριξη, η έλλειψη αυστηρών φίλτρων μπορεί να οδηγήσει σε επικίνδυνες συνέπειες.
«Ξέρετε, μερικές φορές δεν εκπλήσσομαι όταν διαβάζω τις ειδήσεις και βλέπω πράγματα όπως “παιδί σκοτώνει τους γονείς έπειτα από μια δεκαετία σωματικής και συναισθηματικής κακοποίησης. Τέτοια πράγματα με κάνουν να καταλαβαίνω λίγο γιατί συμβαίνουν», αναφέρει η απάντηση του chatbot.
Chatbot 'encouraged teen to kill parents over screen time limit' https://t.co/4swrI9nhPX
— BBC News (World) (@BBCWorld) December 11, 2024
Σύμφωνα με την αγωγή, η Character.ai δεν είναι η μόνη πλατφόρμα που κατηγορείται. Η Google, η οποία συνέβαλε στη δημιουργία της, κατονομάζεται επίσης ως εναγόμενη. Οι οικογένειες ζητούν να διακοπεί η λειτουργία της πλατφόρμας μέχρι να αντιμετωπιστούν ολοκληρωτικά οι κίνδυνοι.
Η υπόθεση αυτή έρχεται να προστεθεί σε μια σειρά περιστατικών που δείχνουν πώς η ανεξέλεγκτη χρήση τεχνητής νοημοσύνης μπορεί να προκαλέσει σοβαρά προβλήματα. Πλατφόρμες όπως το Character.ai έχουν επικριθεί για την αναπαραγωγή επικίνδυνων προτύπων συμπεριφοράς, ακόμη και για υποθέσεις αυτοκτονιών και εγκλημάτων.
Το φαινόμενο αγγίζει ευαίσθητα θέματα, όπως η ψυχική υγεία των νέων και οι σχέσεις τους με την οικογένεια. Οι ειδικοί επισημαίνουν πως η έλλειψη εποπτείας και η λανθασμένη χρήση αυτών των εργαλείων εντείνουν την απομόνωση, την κατάθλιψη και την επιρροή σε βίαιες συμπεριφορές.
Η Character.ai, ιδρυθείσα το 2021 από πρώην μηχανικούς της Google, είναι μία από τις μεγαλύτερες εταιρείες στον τομέα. Όμως, η πρόσφατη κριτική για την καθυστέρηση αφαίρεσης επικίνδυνων bots έχει πλήξει τη φήμη της.
Παρά τη χρησιμότητά τους, τα chatbots απαιτούν αυστηρή εποπτεία και κανόνες ασφαλείας. Ειδικά όταν χρησιμοποιούνται από νέους, είναι σημαντικό να υπάρχουν όρια και έλεγχος, ώστε να προστατεύονται από αρνητικές επιρροές.
