Ο Powell και ο Bessent προειδοποιούν τις τράπεζες για κινδύνους ασφαλείας από το Mythos AI της Anthropic: Bloomberg

Ο Υπουργός Οικονομικών των ΗΠΑ Scott Bessent και ο Πρόεδρος της Ομοσπονδιακής Τράπεζας Jerome Powell φέρονται να συγκάλεσαν συνάντηση με διευθύνοντες συμβούλους τραπεζών της Wall Street νωρίτερα αυτή την εβδομάδα για να προειδοποιήσουν σχετικά με κινδύνους κυβερνοασφάλειας που συνδέονται με ένα νέο μοντέλο τεχνητής νοημοσύνης από την Anthropic.

Σύμφωνα με αναφορά του Bloomberg, η συνάντηση περιλάμβανε στελέχη από τις Citigroup, Bank of America, Wells Fargo, Morgan Stanley και Goldman Sachs. Οι αξιωματούχοι συζήτησαν το νέο μοντέλο AI Mythos της Anthropic, το οποίο πρόσφατα προκάλεσε ευρεία ανησυχία για τις προφανείς προηγμένες δυνατότητες κυβερνοασφάλειάς του.

Οι αξιωματούχοι συγκάλεσαν τη συνάντηση για να διασφαλίσουν ότι οι τράπεζες κατανοούν τους κινδύνους που θέτουν συστήματα ικανά να εντοπίζουν και να εκμεταλλεύονται ευπάθειες λογισμικού σε λειτουργικά συστήματα και προγράμματα περιήγησης ιστού, και για να ενθαρρύνουν τα ιδρύματα να ενισχύσουν τις άμυνες κατά πιθανών κυβερνοεπιθέσεων με τη βοήθεια AI που στοχεύουν χρηματοοικονομικές υποδομές.

Ερευνητές ασφαλείας έχουν προειδοποιήσει ότι εργαλεία ικανά να ανακαλύπτουν αυτόματα ευπάθειες θα μπορούσαν να επιταχύνουν τόσο την αμυντική εργασία ασφαλείας όσο και το κακόβουλο hacking εάν χρησιμοποιηθούν κακώς.

Το μοντέλο Mythos της Anthropic εμφανίστηκε για πρώτη φορά στο διαδίκτυο τον Μάρτιο αφού διέρρευσαν online προσχέδια υλικών σχετικά με το σύστημα, αποκαλύπτοντας αυτό που η εταιρεία περιέγραψε ως το πιο ικανό μοντέλο AI της μέχρι στιγμής. Στις δοκιμές, το σύστημα φέρεται να βρήκε χιλιάδες προηγουμένως άγνωστες ευπάθειες λογισμικού, συμπεριλαμβανομένων ελαττωμάτων μηδενικής ημέρας σε μεγάλα λειτουργικά συστήματα και προγράμματα περιήγησης ιστού.

Οι ερευνητές της Anthropic δήλωσαν σε αναφορά νωρίτερα αυτή την εβδομάδα ότι οι δυνατότητες ανακάλυψης ευπαθειών του Mythos Preview δεν εκπαιδεύτηκαν σκόπιμα, αλλά αντίθετα προέκυψαν από ευρύτερες βελτιώσεις στον προγραμματισμό, τον συλλογισμό και την αυτονομία του μοντέλου.

"Οι ίδιες βελτιώσεις που καθιστούν το μοντέλο ουσιαστικά πιο αποτελεσματικό στη διόρθωση ευπαθειών το καθιστούν επίσης ουσιαστικά πιο αποτελεσματικό στην εκμετάλλευσή τους," έγραψε η εταιρεία.

Λόγω αυτών των δυνατοτήτων, η Anthropic έχει περιορίσει την πρόσβαση σε μια μικρή ομάδα οργανισμών κυβερνοασφάλειας.

"Δεδομένης της ισχύος των δυνατοτήτων του, είμαστε προσεκτικοί σχετικά με το πώς το κυκλοφορούμε," δήλωσε η Anthropic σε ανακοίνωση. "Όπως είναι τυπική πρακτική σε όλο τον κλάδο, συνεργαζόμαστε με μια μικρή ομάδα πελατών πρώιμης πρόσβασης για να δοκιμάσουμε το μοντέλο. Θεωρούμε αυτό το μοντέλο μια αλλαγή βήματος και το πιο ικανό που έχουμε κατασκευάσει μέχρι σήμερα."

Για να αντιμετωπίσει αυτόν τον κίνδυνο, η Anthropic δοκιμάζει το Mythos μέσω του Project Glasswing, μιας συνεργασίας με μεγάλες εταιρείες τεχνολογίας και κυβερνοασφάλειας που χρησιμοποιεί το μοντέλο για να εντοπίζει και να διορθώνει ευπάθειες σε κρίσιμο λογισμικό πριν οι επιτιθέμενοι μπορέσουν να τις εκμεταλλευτούν.

"Το Project Glasswing είναι ένα σημείο εκκίνησης. Κανένας οργανισμός δεν μπορεί να λύσει μόνος του αυτά τα προβλήματα κυβερνοασφάλειας," δήλωσε η εταιρεία σε ανακοίνωση. "Οι προγραμματιστές AI αιχμής, άλλες εταιρείες λογισμικού, ερευνητές ασφαλείας, συντηρητές ανοιχτού κώδικα και κυβερνήσεις σε όλο τον κόσμο έχουν όλοι ουσιαστικούς ρόλους να διαδραματίσουν."

Η Anthropic δεν απάντησε άμεσα στο αίτημα του Decrypt για σχόλιο.