Τεχνητή νοημοσύνη εφηύρε 40.000 νέα χημικά όπλα σε έξι ώρες

Σοκάρει η ευκολία που το έκανε
18 Μαρτίου 2022 09:25
Τεχνητή νοημοσύνη εφηύρε 40.000 νέα χημικά όπλα σε έξι ώρες

Η τεχνητή νοημοσύνη χρησιμοποιείται για να βοηθήσει τους επιστήμονες να εφεύρουν νέα φάρμακα, ωστόσο όπως κάθε τι που βρίσκεται στα χέρια του ανθρώπου μπορεί να χρησιμοποιηθεί και για κακούς σκοπούς. Αυτό ήθελαν να δείξουν και οι επιστήμονες που πραγματοποίησαν το συγκεκριμένο πείραμα.

Χρησιμοποίησαν λοιπόν μία τεχνητή νοημοσύνη που χρησιμοποιείται στο σχεδιασμό φαρμάκων και της έδωσαν την εντολή να σχεδιάσει χημικά όπλα για να επιδείξουν πόσο εύκολο είναι να εκμεταλλευτεί κάποιος την τεχνολογία για σχεδιασμό όπλων. Η τεχνητή νοημοσύνη λοιπόν εφηύρε 40.000 πιθανώς θανατηφόρα μόρια σε μόλις έξι ώρες.

Ανάμεσα στις δεκάδες χιλιάδες νέες ουσίες, μερικές ήταν τόσο ισχυρές όσο το VX, το ισχυρότερο αέριο νεύρων που έχει εφευρεθεί ποτέ. Τρομοκρατημένοι από τα αποτελέσματα, δημοσίευσαν την έρευνά τους στο Nature Machine Intelligence.

Δεν ήμασταν σίγουροι για το τι θα δούμε. Τα μοντέλα μας είναι σχετικά καινούριες τεχνολογίες και δεν έχουν χρησιμοποιηθεί ευρέως. Αυτό που ξεχώρισε στην αρχή ήταν πως πολλά από τα παραγόμενα στοιχεία ήταν πιο τοξικά από το VX. Αυτές βέβαια είναι προβλέψεις που δεν έχουμε επιβεβαιώσει και σίγουρα δε θέλουμε να επιβεβαιώσουμε μόνοι μας. Αλλά τα μοντέλα είναι πολύ καλά οπότε ακόμα κι αν υπάρχουν μερικά ψευδώς θετικά, φοβάμαι πως υπάρχουν μερικά πολύ ισχυρά μόρια εκεί. Αυτό που με τρομάζει είναι το πόσο εύκολο ήταν. Πολλά από αυτά που χρησιμοποιήσαμε προσφέρονται δωρεάν. Μπορείς να κατεβάσεις ένα dataset τοξικότητας από παντού. Αν έχεις και κάποιον να προγραμματίζει σε Python και έχει ικανότητες εκμάθησης μηχανής, μπορεί να δημιουργήσουν κάτι σαν αυτό το μοντέλο. Δε θέλω να ακουστώ υπερβολικός, αλλά είναι πολύ εύκολο να αναπαράγει κάποιος αυτό που κάναμε.