Από σήμερα σε εφαρμογή οι νέοι κανόνες διαφάνειας του AI Act – ertnews.gr

Από σήμερα, 2 Αυγούστου, τα chatbots οφείλουν να ενημερώνουν τους χρήστες ότι συνομιλούν με σύστημα Τεχνητής Νοημοσύνης, ενώ τα deepfakes και άλλο περιεχόμενο που έχει δημιουργηθεί ή αλλοιωθεί με τη χρήση ΤΝ πρέπει να φέρουν σχετική σήμανση. Παράλληλα, η Ευρωπαϊκή Επιτροπή αρχίζει να επιβάλλει τις υποχρεώσεις που προβλέπει ο ευρωπαϊκός Κανονισμός για την Τεχνητή Νοημοσύνη, γνωστός ως AI Act, στους παρόχους των ισχυρότερων μοντέλων γενικού σκοπού.

Οι νέοι κανόνες διαφάνειας καλύπτουν τα διαδραστικά συστήματα ΤΝ, όπως τα chatbots, τα οποία θα πρέπει να καθιστούν σαφές ότι ο χρήστης δεν επικοινωνεί με άνθρωπο. Εικόνες, βίντεο και ηχητικά αρχεία που έχουν παραχθεί ή υποστεί επεξεργασία με ΤΝ και μπορούν να εκληφθούν ως αυθεντικά —τα λεγόμενα deepfakes— θα πρέπει επίσης να επισημαίνονται.

Παράλληλα, το περιεχόμενο που δημιουργείται ή τροποποιείται με τη βοήθεια ΤΝ θα πρέπει να περιλαμβάνει σήματα αναγνώσιμα από μηχανές, ώστε να μπορεί να εντοπίζεται ευκολότερα από πλατφόρμες, ερευνητές και αρμόδιες αρχές. Στόχος των μέτρων είναι να περιοριστούν η εξαπάτηση και η χειραγώγηση, χωρίς ωστόσο να σημαίνει ότι κάθε κείμενο, εικόνα ή βίντεο που έχει παραχθεί με ΤΝ θα εμφανίζεται κατ’ ανάγκην με την ίδια ορατή ένδειξη προς το κοινό. Ο τρόπος εφαρμογής εξαρτάται από το είδος του συστήματος και του περιεχομένου.

Η Ευρωπαϊκή Επιτροπή δημοσίευσε επίσης έναν πρώτο κατάλογο περισσότερων από 180 οργανισμών που έχουν υπογράψει τον Κώδικα Πρακτικής για τη διαφάνεια του περιεχομένου που παράγεται από ΤΝ. Ο Κώδικας επιχειρεί να μετατρέψει τις γενικές απαιτήσεις του Κανονισμού σε συγκεκριμένες τεχνικές και οργανωτικές πρακτικές για τις επιχειρήσεις.

Στο μικροσκόπιο τα ισχυρότερα μοντέλα ΤΝ

Από σήμερα, το ευρωπαϊκό Γραφείο Τεχνητής Νοημοσύνης αποκτά τη δυνατότητα να επιβάλλει τους κανόνες του AI Act στους παρόχους μοντέλων ΤΝ γενικού σκοπού (GPAI). Πρόκειται για μοντέλα που δεν έχουν σχεδιαστεί για μία μόνο εφαρμογή, αλλά μπορούν να εκτελούν πολλές διαφορετικές εργασίες και να ενσωματώνονται σε chatbots, μηχανές αναζήτησης, ψηφιακούς βοηθούς και αυτόνομους πράκτορες ΤΝ.

Οι πάροχοι αυτών των μοντέλων υποχρεούνται να τηρούν τεχνική τεκμηρίωση, να παρέχουν πληροφορίες στις αρμόδιες αρχές και στις επιχειρήσεις που χρησιμοποιούν τα μοντέλα τους για να δημιουργήσουν άλλα συστήματα, καθώς και να εφαρμόζουν πολιτική συμμόρφωσης με το ευρωπαϊκό δίκαιο περί πνευματικής ιδιοκτησίας.

Θα πρέπει ακόμη να δημοσιεύουν επαρκώς αναλυτική περίληψη του περιεχομένου που χρησιμοποιήθηκε για την εκπαίδευση των μοντέλων τους. Η απαίτηση αυτή δεν συνεπάγεται τη δημοσιοποίηση ολόκληρων των συνόλων δεδομένων, αλλά αποσκοπεί στο να παρέχει περισσότερες πληροφορίες για τις πηγές και τις κατηγορίες υλικού πάνω στις οποίες εκπαιδεύτηκαν τα συστήματα.

Πρόσθετες υποχρεώσεις προβλέπονται για τα πλέον προηγμένα μοντέλα, τα οποία η ευρωπαϊκή νομοθεσία θεωρεί ότι ενδέχεται να δημιουργούν «συστημικούς κινδύνους». Οι εταιρείες που τα αναπτύσσουν θα πρέπει να αξιολογούν και να περιορίζουν κινδύνους μεγάλης κλίμακας, όπως η χρήση τους για κυβερνοεπιθέσεις, η επιβλαβής χειραγώγηση ανθρώπων, οι απειλές για θεμελιώδη δικαιώματα ή η συμβολή σε χημικά, βιολογικά, ραδιολογικά και πυρηνικά περιστατικά.

Η Κομισιόν αναφέρεται επίσης στον κίνδυνο συστήματα ΤΝ να ενεργούν πέρα από τον ανθρώπινο έλεγχο. Η αναφορά δεν σημαίνει ότι έχουν επιβεβαιωθεί τέτοια περιστατικά, αλλά ότι οι πάροχοι των πιο ισχυρών μοντέλων καλούνται πλέον να εξετάζουν και αυτό το ενδεχόμενο στις αξιολογήσεις ασφαλείας τους.

Η επιβολή των κανόνων μοιράζεται μεταξύ ευρωπαϊκών και εθνικών αρχών. Το Γραφείο ΤΝ θα εποπτεύει τα συστήματα που προσφέρονται από τον ίδιο πάροχο με το μοντέλο γενικού σκοπού στο οποίο βασίζονται, καθώς και ορισμένα συστήματα που είναι ενσωματωμένα στις πολύ μεγάλες διαδικτυακές πλατφόρμες και μηχανές αναζήτησης του Digital Services Act.

Για τα υπόλοιπα συστήματα αρμόδιες θα είναι οι εθνικές αρχές των κρατών-μελών, ενώ ο Ευρωπαίος Επόπτης Προστασίας Δεδομένων θα ελέγχει τη χρήση ΤΝ από τα θεσμικά όργανα και τους οργανισμούς της Ευρωπαϊκής Ένωσης. Η αποτελεσματικότητα της εφαρμογής θα εξαρτηθεί, επομένως, και από το κατά πόσο τα κράτη-μέλη έχουν ορίσει και στελεχώσει επαρκώς τις αρμόδιες υπηρεσίες τους. Το έργο του Γραφείου ΤΝ και των εθνικών αρχών θα υποστηρίζεται από επιστημονική ομάδα 60 ανεξάρτητων εμπειρογνωμόνων.

Η Επιτροπή θέτει επίσης σε λειτουργία εργαλεία μέσω των οποίων πολίτες και επιχειρήσεις μπορούν να καταγγέλλουν πιθανές παραβιάσεις. Ξεχωριστό ασφαλές κανάλι προβλέπεται για εργαζομένους που θέλουν να αναφέρουν παραβάσεις, καθώς και για επιχειρήσεις που δημιουργούν εφαρμογές πάνω σε μοντέλα άλλων εταιρειών.

Δεν τίθενται, πάντως, από σήμερα σε εφαρμογή όλες οι διατάξεις του AI Act. Οι κανόνες για τα συστήματα υψηλού κινδύνου έχουν μετατεθεί για τις 2 Δεκεμβρίου 2027, ενώ για όσα ενσωματώνονται σε προϊόντα που ήδη διέπονται από ειδική ευρωπαϊκή νομοθεσία η ημερομηνία εφαρμογής έχει μεταφερθεί στις 2 Αυγούστου 2028.

Νέες απαγορεύσεις για συστήματα που παράγουν χωρίς συναίνεση σεξουαλικά ρητό υλικό ή υλικό σεξουαλικής κακοποίησης παιδιών προβλέπεται να τεθούν σε ισχύ στις 2 Δεκεμβρίου 2026.