Δασκαλάκης στο ΕΡΤnews Radio 105,8: Η Τεχνητή Νοημοσύνη είναι εγγενώς απρόβλεπτη – Χρειαζόμαστε πανέξυπνους πράκτορες άμυνας – ertnews.gr

Τους κινδύνους που προκύπτουν από την ταχύτατη εξέλιξη της Τεχνητής Νοημοσύνης, αλλά και από τη δυνατότητα των σύγχρονων μοντέλων να αναλαμβάνουν αυτόνομες δράσεις, ανέδειξε ο καθηγητής του τμήματος Ηλεκτρολόγων Μηχανικών και Επιστήμης Υπολογιστών του MIT και πρώην Πρόεδρος Επιτροπής Τεχνητής Νοημοσύνης Κωνσταντίνος Δασκαλάκης, μιλώντας στην εκπομπή «Μένουμε Εδώ» με την Έλενα Καραγιάννη, για τις δυνατότητες και τις προκλήσεις της νέας τεχνολογίας.

Η «απρόβλεπτη» συμπεριφορά των μοντέλων Τεχνητής Νοημοσύνης

Όπως ανέφερε, «η τεχνολογία των νευρωνικών δικτύων-η οποία έχει δώσει όλη την πρόοδο που έχουμε δει στην τεχνητή νοημοσύνη τα τελευταία 15 χρόνια- -είναι ιδιόμορφη. Δηλαδή όχι μόνο τα μεγάλα γλωσσικά μοντέλα τα οποία έχουν εισάγει το ευρύ κοινό στη τεχνητή νοημοσύνη, αλλά γενικότερα μοντέλα που κατανοούν το περιεχόμενο των εικόνων, μοντέλα που προβλέπουν την αναδίπλωση πρωτεϊνών, μοντέλα που γενικότερα αναλύουν και προβλέπουν τη συμπεριφορά αντικειμένων που μέχρι πρότινος οι αλγόριθμοι δεν μπορούσαν να τα καταλάβουν. Τα καινούργια αυτά μοντέλα στηρίζονται σε μια τεχνολογία που λεγόταν νευρωνικά δίκτυα (…). Η τεχνολογία αυτή εγγενώς είναι λίγο απρόβλεπτη. Δηλαδή, είναι μια τεχνολογία που συμπεριφέρεται πολύ καλά μέχρι να μη συμπεριφέρεται καλά. Με άλλα λόγια, δεν έρχεται με μαθηματικές εγγυήσεις ποιότητας».

«Αν έχουμε πανέξυπνους AI agents που μπορούν να χακάρουν, πρέπει να φτιάξουμε και πανέξυπνους πράκτορες άμυνας»

Μεταξύ άλλων, ο καθηγητής του ΜΙΤ τόνισε «δεν με πείθει ότι αν επιβραδύνουμε την ανάπτυξη ότι κάτι θα γίνει, διότι ήδη η τεχνολογία έχει πλέον ξεφύγει ούτως ή άλλως. Η δικιά μου οπτική είναι ότι αν έχουμε Super-intelligent AI agents, δηλαδή πανέξυπνους πράκτορες που μπορούν να χακάρουν, πρέπει να φτιάξουμε και πανέξυπνους πράκτορες που μπορούν να αμυνθούν. Στο τέλος της μέρας είναι ένα παιχνίδι ο πόλεμος. Αυτός που επιτίθεται κι αυτός που αμύνεται (…).».