Day 2 Day – Οι Είδησεις Σήμερα
Διαδίκτυο - Επιστήμη & AI

Γαλλία: Οι 18 συστάσεις επιτροπής ειδικών για την Τεχνητή Νοημοσύνη – ertnews.gr

Να υποβάλλονται σε ελέγχους πριν κυκλοφορήσουν στην αγορά, αλλά και κατά τη διάρκεια της λειτουργίας τους, τα συστήματα παραγωγικής Τεχνητής Νοημοσύνης που απευθύνονται στο ευρύ κοινό, προτείνει γαλλική επιτροπή ειδικών. Η πρόταση περιλαμβάνεται σε έκθεση που παραδόθηκε στον πρόεδρο Εμανουέλ Μακρόν στις 10 Νοεμβρίου και αφορά υπηρεσίες όπως το ChatGPT και το Gemini, οι οποίες θα μπορούσαν να υπόκεινται σε διαδικασία αξιολόγησης αντίστοιχη με εκείνη που εφαρμόζεται στα φάρμακα. Από την προτεινόμενη διαδικασία εξαιρούνται τα επαγγελματικά εργαλεία Τεχνητής Νοημοσύνης.

Η έκθεση, με τίτλο «Προστατεύοντας χωρίς να εμποδίζουμε», εκπονήθηκε από εννέα ανεξάρτητους ειδικούς, έπειτα από 55 ακροάσεις εκπροσώπων της επιστημονικής κοινότητας, επαγγελματιών υγείας, επιχειρήσεων και οργανώσεων προστασίας των παιδιών. Στην τριμελή συμπροεδρία της επιτροπής συμμετείχαν η ερευνήτρια Τεχνητής Νοημοσύνης Σερένα Βιλάτα και οι ψυχίατροι Ραφαέλ Γκαγιάρ και Αμίν Μπενγιαμίνα. Η επιτροπή, που συγκροτήθηκε από το γαλλικό Συμβούλιο Τεχνητής Νοημοσύνης και Ψηφιακής Τεχνολογίας, διατυπώνει 18 συστάσεις για την προστασία των χρηστών. Προς το παρόν, πρόκειται για εισηγήσεις και όχι για αποφασισμένα μέτρα της γαλλικής κυβέρνησης.

Από τη «γνωστική οφειλή» στη συναισθηματική εξάρτηση

Οι ειδικοί χρησιμοποιούν τον όρο «γνωστική οφειλή» (cognitive debt) για να περιγράψουν τον κίνδυνο σταδιακής εξάρτησης από την Τεχνητή Νοημοσύνη, όταν οι χρήστες της αναθέτουν λειτουργίες όπως η γραφή, η ανάλυση πληροφοριών και η λήψη αποφάσεων. Η έκθεση επικαλείται έρευνα του MIT, σύμφωνα με την οποία η χρήση εργαλείων παραγωγικής ΤΝ σε εργασίες γραφής συνδέθηκε με μείωση κατά 55% σε συγκεκριμένη μέτρηση της γνωστικής δραστηριότητας. Το εύρημα δεν συνεπάγεται αντίστοιχη μείωση της γενικής νοητικής ικανότητας.

Η επιτροπή εντοπίζει δύο ακόμη χαρακτηριστικά των συστημάτων ΤΝ που προκαλούν ανησυχία: την κολακευτική συμπεριφορά των chatbots, δηλαδή την τάση τους να συμφωνούν με τον συνομιλητή τους ακόμη και εις βάρος της αλήθειας, και τον ανθρωπομορφισμό, την απόδοση ανθρώπινων χαρακτηριστικών και συναισθημάτων σε έναν αλγόριθμο.

Σε συνέντευξή της στο ενημερωτικό δελτίο του γαλλικού Εθνικού Κέντρου Επιστημονικών Ερευνών (CNRS), η Σερένα Βιλάτα περιγράφει περιπτώσεις ανθρώπων που μοιράζονται προσωπικές συνομιλίες με την Τεχνητή Νοημοσύνη, ζητούν συμβουλές για τις σχέσεις τους ή ακόμη και αντιμετωπίζουν τους ψηφιακούς συνομιλητές ως ερωτικούς συντρόφους.

Η επιτροπή ζητά να απαγορευθούν οι τεχνικές σχεδιασμού που εκμεταλλεύονται τις ευαλωτότητες των χρηστών για να καλλιεργήσουν εξάρτηση ή να παρατείνουν την αλληλεπίδραση. Ειδικά για τους ανηλίκους, εισηγείται αυξημένες απαιτήσεις ασφάλειας και προστασίας των δικαιωμάτων τους.

Ξεχωριστή σύσταση αφορά τα παιχνίδια με ενσωματωμένη παραγωγική ΤΝ, για τα οποία προτείνεται προηγούμενη άδεια κυκλοφορίας και αυστηρά ηλικιακά όρια. Οι ειδικοί ζητούν επίσης αυστηρότερη αντιμετώπιση της παραγωγής μη συναινετικού σεξουαλικού περιεχομένου και υλικού σεξουαλικής κακοποίησης παιδιών μέσω Τεχνητής Νοημοσύνης.

Όταν η Τεχνητή Νοημοσύνη γίνεται πηγή ενημέρωσης

Σύμφωνα με τα στοιχεία που παραθέτει η έκθεση, το 73% των χρηστών παραγωγικής ΤΝ στη Γαλλία αναζητά πληροφορίες μέσω αυτής τουλάχιστον μία φορά τον μήνα, ενώ το 21% καθημερινά. Παράλληλα, το 36% των χρηστών δηλώνει ότι δεν επαληθεύει τις πληροφορίες που λαμβάνει από τα συστήματα αυτά.

Η έκθεση επικαλείται έρευνα σύμφωνα με την οποία μια συνομιλία με σύστημα παραγωγικής ΤΝ μπορεί να είναι περίπου 50% πιο πειστική από την ανάγνωση αντίστοιχου στατικού μηνύματος. Κατά τις τελευταίες εκλογές στη Σκωτία, το 34% των απαντήσεων που παρείχαν μεγάλα γλωσσικά μοντέλα σε ερωτήματα ψηφοφόρων περιείχε λανθασμένες πληροφορίες.

Η δυνατότητα εξατομίκευσης των απαντήσεων δημιουργεί νέες προκλήσεις για την ενημέρωση. Η παραπληροφόρηση δεν διακινείται μόνο μαζικά, όπως συμβαίνει στα κοινωνικά δίκτυα, αλλά μπορεί να προσαρμόζεται στις απόψεις και τις προσωπικές ευαισθησίες κάθε χρήστη μέσα από μια συνομιλία.

Η επιτροπή προτείνει εθνικό πρωτόκολλο αντιμετώπισης κρίσεων παραπληροφόρησης που συνδέονται με την ΤΝ, το οποίο θα προβλέπει την έγκαιρη ανίχνευση επιχειρήσεων χειραγώγησης της πληροφορίας, την αξιολόγηση της σοβαρότητάς τους και την ταχεία κινητοποίηση των αρμόδιων κρατικών υπηρεσιών.

Μετά την οικονομία της προσοχής, η «οικονομία της νόησης»

Η επιτροπή εισάγει την έννοια της «οικονομίας της νόησης» (économie de la cognition). Ενώ τα κοινωνικά δίκτυα στηρίχθηκαν στην οικονομία της προσοχής, επιδιώκοντας να κρατούν τους χρήστες όσο το δυνατόν περισσότερο στις πλατφόρμες τους, οι εφαρμογές παραγωγικής ΤΝ θα μπορούσαν να αξιοποιούν εμπορικά πληροφορίες για τον τρόπο σκέψης, τις αντιδράσεις και τις συναισθηματικές ευαισθησίες τους.

Ένας από τους κινδύνους που επισημαίνουν οι ειδικοί είναι η εμφάνιση διαφημιστικών μηνυμάτων μέσα στις απαντήσεις των chatbots, χωρίς ο χρήστης να αντιλαμβάνεται ότι πρόκειται για εμπορική προώθηση. Η επιτροπή εισηγείται την απαγόρευση της συγκαλυμμένης διαφήμισης και των αθέμιτων πρακτικών εμπορικής επιρροής που εκμεταλλεύονται τις ευαλωτότητες των καταναλωτών.

Παράλληλα, ζητά τη διεύρυνση της πρόσβασης των αρμόδιων αρχών και διαπιστευμένων ερευνητών στα δεδομένα εκπαίδευσης, χρήσης και εμπορικής αξιοποίησης των συστημάτων, καθώς και αυστηρότερο έλεγχο των συμπερασμάτων για προσωπικά χαρακτηριστικά που μπορούν να εξάγουν οι εταιρείες από τις συνομιλίες των χρηστών.

Εκπαίδευση στην ΤΝ, αλλά και χωρίς αυτήν

Η επιτροπή προτείνει, επίσης, την εισαγωγή της εκπαίδευσης στην Τεχνητή Νοημοσύνη από το δημοτικό σχολείο, ώστε οι μαθητές να μαθαίνουν να χρησιμοποιούν τα εργαλεία της, αλλά και να καλλιεργούν τις δεξιότητες της γραφής, της ανάλυσης και της κριτικής σκέψης χωρίς τη βοήθειά της. Εισηγείται επίσης τη διάθεση ειδικά προσαρμοσμένων συστημάτων ΤΝ για χρήση από ανηλίκους στις σχολικές αίθουσες.

Μία ακόμη σύσταση αφορά την προστασία της γλωσσικής και πολιτισμικής πολυμορφίας. Οι ειδικοί ζητούν να εξασφαλιστεί η εκπροσώπηση των μειονοτικών γλωσσών και πολιτισμών στα συστήματα παραγωγικής ΤΝ, μέσω της αξιοποίησης κατάλληλων γλωσσικών συλλογών και βάσεων αναφοράς. Η έκθεση επισημαίνει ότι τα μεγάλα γλωσσικά μοντέλα παρουσιάζουν χαμηλότερη ποιότητα απαντήσεων όταν χρησιμοποιούνται σε γλώσσες διαφορετικές από τα αγγλικά.

Όλες οι Ειδήσεις από την Ελλάδα και τον Κόσμο,  στο ertnews.gr
Διάβασε όλες τις ειδήσεις μας στο Google
Κάνε like στη σελίδα μας στο Facebook
Ακολούθησε μας στο Twitter
Κάνε εγγραφή στο κανάλι μας στο Youtube
Γίνε μέλος στο κανάλι μας στο Viber
Προσοχή! Επιτρέπεται η αναδημοσίευση των πληροφοριών του παραπάνω άρθρου (όχι αυτολεξεί) ή μέρους αυτών μόνο αν:
– Αναφέρεται ως πηγή το ertnews.gr στο σημείο όπου γίνεται η αναφορά.
– Στο τέλος του άρθρου ως Πηγή
– Σε ένα από τα δύο σημεία να υπάρχει ενεργός σύνδεσμος

Source link

Related posts

Live η ολική έκλειψη Ηλίου – Στο σκοτάδι περιοχές της Ισπανίας και της Ισλανδίας – ertnews.gr

Ο Μανώλης Σφακιανάκης στo STAR: ΤΑ ΠΡΟΣΩΠΙΚΑ ΜΑΣ ΔΕΔΟΜΕΝΑ ΣΤΑ ΧΕΡΙΑ ΕΠΙΤΗΔΕΙΩΝ

Ο Μανώλης Σφακιανάκης στo STAR: Πως προσεγγίζουν οι παιδόφιλοι τα παιδία μέσω του διαδικτύου