Ο διευθύνων σύμβουλος της Palantir, Alex Karp, κάνει λάθος σχετικά με την απειλή που αποτελούν η Anthropic και η OpenAI για τις περισσότερες επιχειρήσεις. Αυτό δεν σημαίνει ότι δεν έχει κάτι να χάσει.

Γεια σας και καλώς ήρθατε στο Eye on AI. Σε αυτό το τεύχος:

• Γιατί ο διευθύνων σύμβουλος της Palantir, Alex Karp, κάνει λάθος σχετικά με τα εργαστήρια αιχμής της ΤΝ.
• Το αυτόνομο ransomware είναι εδώ, ισχυρίζεται εταιρεία κυβερνοασφάλειας.
• Η Κίνα εξετάζει τον περιορισμό της ξένης πρόσβασης στα κορυφαία μοντέλα ΤΝ.
• Η Anthropic διαπιστώνει ότι μέρος των λειτουργιών των LLM μοιάζει με μια πτυχή της ανθρώπινης συνείδησης.
• Τα πρότυπα ασφαλείας της ΤΝ χαλαρώνουν, αναφέρει έκθεση.

Αυτή την εβδομάδα, έχουμε μερικά συναρπαστικά νέα εδώ στο Fortune. Ξεκινάμε ένα ολοκαίνουργιο vodcast με τίτλο Fortune AI Weekly, το οποίο παρουσιάζω μαζί με τη Bea Nolan. Μπορείτε να το σκεφτείτε ως μια επέκταση αυτού που κάνουμε εδώ στο Eye on AI—φέρνοντάς σας τις σκέψεις μας για τα μεγαλύτερα νέα της ΤΝ της εβδομάδας, αναδεικνύοντας μερικές από τις εξαιρετικές报道 της Fortune για την ΤΝ, και μερικές φορές φέρνοντάς σας αποκλειστικές συνεντεύξεις με βασικούς δημιουργούς, στοχαστές, ιδρυτές, επενδυτές και ηγέτες στον χώρο της ΤΝ. Μπορείτε να δείτε το βίντεο στο κανάλι μας στο YouTube εδώ.
***
Στα νέα της ΤΝ που πρωταγωνίστησαν την περασμένη εβδομάδα ήταν η επίθεση του Alex Karp κατά των εταιρειών θεμελιωδών μοντέλων. Ο διευθύνων σύμβουλος της Palantir εμφανίστηκε στο CNBC την Τετάρτη, ostensibly για να συζητήσει μια νέα συνεργασία μεταξύ της Palantir και της Nvidia για την παροχή «κυρίαρχης υποδομής ΤΝ» στην κυβέρνηση των ΗΠΑ και σε κρίσιμες βιομηχανίες. Η συνεργασία περιλαμβάνει τη χρήση των ανοιχτού κώδικα μοντέλων Nemotron της Nvidia μαζί με την Πλατφόρμα Τεχνητής Νοημοσύνης (AIP) της Palantir, η οποία αποτελεί ένα στρώμα εφαρμογών που συνδέει αυτά τα μοντέλα με δεδομένα, προσφέροντας παράλληλα ασφάλεια και διακυβέρνηση δεδομένων. Αλλά αυτό δεν είναι τελικά αυτό που έκανε τίτλους. Αντιθέτως, αφού προλόγισε τις παρατηρήσεις του λέγοντας «δεν ρίχνω σκιές» στην OpenAI και την Anthropic, ο Karp proceeded to toss Mordor levels of shadow at the frontier AI labs.
«Κάτι έχει πάει εντελώς στραβά», είπε. «Η βασική άποψη μεταξύ των επιχειρήσεων σε αυτή τη χώρα είναι ‘θα χαλαρώσω και θα χάσω τον χρόνο μου με tokens, δεν θα πάρω καμία αξία, και αυτοί θα πάρουν την πνευματική μου ιδιοκτησία.’» Στη συνέχεια είπε ότι αυτό δεν ήταν σκιά αλλά «αναφορά». Επέμεινε σε αυτά τα σημεία αρκετές φορές, λέγοντας ότι οι εταιρείες δεν έπαιρναν καμία αξία από τα tokens που αγόραζαν από τα εργαστήρια αιχμής και ότι ρίσκαραν να μεταφέρουν την κρίσιμη επιχειρηματική τους πνευματική ιδιοκτησία σε αυτούς τους προμηθευτές ΤΝ.
Έχει λοιπόν δίκιο ο Karp; Λοιπόν, κάπως. Αλλά μόνο αν ζουλήσετε τα μάτια σας. Και πολύ από όσα είπε ο Karp ήταν είτε συμφεροντολογικά, ανακριβή ή αντιφατικά—ή και τα τρία.

Η απόδοση επένδυσης καθυστερεί, αλλά κανείς δεν «χαλαρώνει» γι’ αυτό

Είναι αλήθεια ότι πολλές μεγάλες εταιρείες ανησυχούν ότι δεν βλέπουν ακόμη επαρκή απόδοση επένδυσης από την ανάπτυξη της ΤΝ και αγωνιούν για το κόστος των tokens, ιδιαίτερα όταν χρησιμοποιούν τα πιο προηγμένα μοντέλα ΤΝ σε περιπτώσεις χρήσης με πράκτορες. (Το γεγονός ότι πολλές μεγάλες εταιρείες ανησυχούν γι’ αυτό αντιφάσκει με τον ισχυρισμό του Karp ότι απλώς «χαλαρώνουν».) Αλλά σίγουρα ορισμένες εταιρείες αναφέρουν αξία—ιδιαίτερα στην ανάπτυξη λογισμικού και στην εξυπηρέτηση πελατών. Και, για εκείνες που δεν το κάνουν, συχνά συμβαίνει επειδή δεν έχουν θέσει προτεραιότητα στις πιο στρατηγικά απαραίτητες περιπτώσεις χρήσης ή δεν έχουν καταλάβει πώς να αναδιαμορφώσουν τις ροές εργασίας τους σε όλη την εταιρεία ώστε να εκμεταλλευτούν καλύτερα την τεχνολογία.
Σε ένα σημείο της συνέντευξης στο CNBC, ο Karp είπε «γιατί χρεώνουν για tokens, αν είναι τόσο πολύτιμα;» Υπονόησε ότι αν τα θεμελιώδη μοντέλα λειτουργούσαν τόσο καλά όσο ισχυρίζονται οι προμηθευτές μοντέλων ΤΝ, θα ήταν καλύτερο να προσφέρουν την ολοκλήρωση μιας ολόκληρης εργασίας για τον πελάτη και να χρεώνουν ένα ποσοστό της παραγόμενης αξίας. Αυτό, στην πραγματικότητα, είναι ο τρόπος με τον οποίο η Palantir τιμολογεί τις προσφορές της (οπότε εδώ υπάρχει το συμφεροντολογικό στοιχείο). Και αυτό είναι που πολλές συμβουλευτικές εταιρείες που πωλούν υπηρεσίες ΤΝ αρχίζουν τώρα να κάνουν. Αλλά σίγουρα δεν είναι ο παραδοσιακός τρόπος τιμολόγησης του λογισμικού. Επίσης, έχει λίγη λογική για μια τεχνολογία γενικής χρήσης να χρησιμοποιεί ένα επιχειρηματικό μοντέλο βασισμένο στην αξία. Άλλωστε, η εταιρεία ηλεκτρικού ρεύματος σας χρεώνει για κάθε μονάδα ηλεκτρικής ενέργειας που χρησιμοποιείτε, όχι για την αξία αυτού που κάνετε με αυτά τα ηλεκτρόνια. Η Microsoft, για την ιστορία, σας χρεώνει ένα σταθερό ποσό για τη χρήση του Microsoft Word και Excel—δεν προσπαθεί να σας χρεώσει ένα ποσοστό της συμφωνίας που κερδίσατε επειδή η παρουσίασή σας στο PowerPoint εντυπωσίασε στη συνάντηση pitch.
Επιπλέον, αν ο Karp λέει ότι ένα από τα κύρια παράπονα των επιχειρήσεων για τα εργαστήρια αιχμής της ΤΝ είναι ότι «κλέβουν το άλφα» (δηλαδή κλέβουν τη γνωσιακή βάση που δίνει σε μια επιχείρηση το ανταγωνιστικό της πλεονέκτημα), αυτό θα ήταν ακόμη μεγαλύτερη ανησυχία με ένα επιχειρηματικό μοντέλο στο οποίο οι εταιρείες ΤΝ εκτελούσαν εργασίες για τους πελάτες αντί να τους πωλούν tokens. (Αυτό είναι άλλο ένα από τα αντιφατικά πράγματα που είπε.) Ορισμένες συμβουλευτικές εταιρείες και ορισμένοι πάροχοι cloud προσφέρουν διαχειριζόμενες υπηρεσίες για πελάτες—αλλά οι πελάτες συνήθως είναι διατεθειμένοι να αναθέσουν μόνο εργασίες που θεωρούν μη βασικές για την επιχείρησή τους.

Λίγα στοιχεία για τα εργαστήρια ΤΝ να «κλέβουν άλφα»

Όσον αφορά το επιχείρημα του Karp ότι τα εργαστήρια αιχμής κλέβουν πνευματική ιδιοκτησία από τους πελάτες, δεν υπάρχουν στοιχεία ότι αυτό είναι κυριολεκτικά αληθές, τουλάχιστον όχι με τον τρόπο που φαινόταν να υπονοεί ο Karp. Οι κορυφαίοι προμηθευτές ΤΝ έχουν όλες πολιτικές που λένε ότι δεν έχουν άμεση πρόσβαση στα prompts, τις εξόδους ή τα δεδομένα των επιχειρηματικών πελατών και ότι δεν χρησιμοποιούν αυτές τις αλληλεπιδράσεις για την εκπαίδευση μελλοντικών μοντέλων, εκτός εάν αυτοί οι πελάτες επιλέξουν συγκεκριμένα να επιτρέψουν στον προμηθευτή να το κάνει. (Περισσότερα για αυτή την ειδική περίπτωση σε λίγο.)

Τόσο η OpenAI όσο και η Anthropic μιλούν για τη χρήση ανωνυμοποιημένων και αποπροσωποποιημένων δεδομένων πελατών για τη διεξαγωγή οικονομικής έρευνας σχετικά με τον τρόπο χρήσης των μοντέλων τους, αλλά ακόμη και αυτό γίνεται μόνο για την κυκλοφορία μηνυμάτων που εισέρχεται στις υπηρεσίες τους面向 καταναλωτών ή στα άμεσα APIs τους, και όχι για πελάτες που αποκτούν πρόσβαση στα μοντέλα μέσω ασφαλών υπηρεσιών cloud, όπως το Microsoft Azure, το Amazon Bedrock ή το Google Vertex–που είναι ο τρόπος με τον οποίο οι περισσότερες μεγάλες επιχειρήσεις αποκτούν πρόσβαση σε αυτά τα μοντέλα.
Επομένως, για τις περισσότερες μεγάλες επιχειρήσεις, ειδικά για τις περισσότερες μεγάλες επιχειρήσεις που δεν βρίσκονται στον τεχνολογικό τομέα, αυτό που ισχυρίζεται ο Karp είναι ανοησία. Αν είστε η Archer-Daniels-Midland ή η Boeing, δεν υπάρχει μεγάλη πιθανότητα η Anthropic να κλέψει την πνευματική σας ιδιοκτησία και να αρχίσει να παράγει καλαμπόκι ή να κατασκευάζει jumbo jets.

Ωστόσο, λίγες εταιρείες έχουν λόγο να ανησυχούν—η Palantir είναι μία από αυτές

Αλλά υπάρχει μια κατηγορία επιχειρήσεων για τις οποίες ο Karp μπορεί να έχει δίκιο. Η Anthropic, η OpenAI και η Google DeepMind έχουν όλες «σχεδιαστικούς εταίρους» σε διάφορους κλάδους, και αυτοί οι εταίροι συχνά αποκτούν πρώιμη πρόσβαση για να βοηθήσουν στη δοκιμή των новейших μοντέλων στα οποία εργάζονται αυτά τα εργαστήρια ΤΝ. Και ως μέρος αυτών των συνεργασιών, τα εργαστήρια συχνά έχουν πολύ περισσότερη πρόσβαση σε πληροφορίες σχετικά με τον τρόπο με τον οποίο αυτές οι επιχειρήσεις χρησιμοποιούν τα μοντέλα.
Υπήρξε τουλάχιστον μία περίπτωση όπου αυτή η πρόσβαση μπορεί να έχει χρησιμοποιηθεί από ένα από τα εργαστήρια ΤΝ για την κατασκευή ενός ανταγωνιστικού προϊόντος. Αυτή η περίπτωση αφορά την Anthropic και την Figma. Όπως ανέφερε πρώτο το The Information τον περασμένο μήνα, η Anthropic συνεργαζόταν τόσο με την Figma όσο και με την Canva για την ανάπτυξη ενός εργαλείου Claude for Design. Ο Mike Kreiger, επικεφαλής προϊόntos της Anthropic, είχε даже θέση στο διοικητικό συμβούλιο της Figma. Αλλά τότε η Figma αποσύρθηκε από την κυκλοφορία και ο Kreiger παραιτήθηκε внезапно από το συμβούλιο μετά την ανακάλυψη της Figma ότι το προϊόν που κατασκεύαζε η Anthropic ανταγωνιζόταν πολύ πιο άμεσα τα δική της χαρακτηριστικά προϊόντος από ό,τι η Anthropic, τουλάχιστον κατά την άποψη της Figma, είχε αποκαλύψει. Σύμφωνα με την αναφορά του Information, ο διευθύνων σύμβουλος της Figma, Dylan Field, είπε στους συμμετέχοντες σε μια ιδιωτική εκδήλωση που φιλοξενήθηκε από τη Sequoia Capital ότι η Anthropic «δεν ήταν συνεπώς ειλικρινής στις επικοινωνίες της» με την Figma σχετικά με το εύρος του εργαλείου σχεδιασμού Claude.

Άλλες υποτιθέμενες περιπτώσεις προμηθευτών ΤΝ που χρησιμοποιούν την πρόσβαση στα δεδομένα πελατών για να ανταγωνιστούν στη συνέχεια αυτούς τους πελάτες προέρχονται από πηγές με προσωπικά συμφέροντα—πολλοί από τους οποίους είναι επενδυτές στην Palantir. Ο venture capitalist Jason Calacanis, πρώην υποστηρικτής της Palantir, έχει ισχυριστεί ότι η Anthropic χρησιμοποίησε δεδομένα από το Cursor, έναν βοηθό κωδικοποίησης ΤΝ που ήταν έντονος χρήστης των μοντέλων Claude της Anthropic, για να βοηθήσει στην ανάπτυξη του Claude Code, του viral προϊόντος της Anthropic που στη συνέχεια επισκίασε σε δημοτικότητα το Cursor. Ο venture capitalist Chamath Palihapitiya έχει επισημάνει ότι η Anthropic συνεργάστηκε με την Eli Lilly και άλλες φαρμακευτικές εταιρείες, πριν πρόσφατα δηλώσει ότι σκοπεύει να ξεκινήσει το δικό της πρόγραμμα ανάπτυξης φαρμάκων. (Η Anthropic έχει χαρακτηρίσει αυτό ως τρόπο βελτίωσης των δικών της εργαλείων Claude of Science και δεν είναι σαφές αν η Anthropic θα προσπαθούσε να εμπορευματοποιήσει η ίδια οποιουσδήποτε υποψήφιους φαρμάκους ή θα συνεργαζόταν με μια φαρμακευτική εταιρεία για αυτό το μέρος της διαδικασίας.) Εκτός από το ότι είναι πρώιμος επενδυτής της Palantir, ο Palihapitiya είναι συμπαρουσιαστής του podcast «All In» με τον David Sacks, ο οποίος επίσης δεν τρέφει αγάπη για την Anthropic.
Παρ’ όλα αυτά, η κατηγορία ότι η Anthropic σκοπεύει να εισέλθει πραγματικά άμεσα σε όλους αυτούς τους κάθετους τομείς, αντί απλώς να κατασκευάσει εργαλεία που θα κάνουν τα μοντέλα της ευκολότερα αναπτύξιμα σε αυτούς τους τομείς—που hardly είναι το ίδιο πράγμα—φαίνεται τραβηγμένο από τα μαλλιά. Και πάλι, αν είστε οι περισσότερες εταιρείες Fortune 500, η Anthropic ή η OpenAI δεν πρόκειται να αρχίσουν να ανταγωνίζονται head-to-head μαζί σας.
Στην πραγματικότητα, το καλύτερο παράδειγμα εργαστηρίων αιχμής ΤΝ που κλέβουν δεδομένα για να κατασκευάσουν ένα ανταγωνιστικό προϊόν προέρχεται από τον δικό μου κλάδο, τις επιχειρήσεις μέσων ενημέρωσης. Εδώ τα εργαστήρια αιχμής ΤΝ έχουν σίγουρα συγκεντρώσει τεράστιες ποσότητες υλικού προστατευόμενου από πνευματικά δικαιώματα για να εκπαιδεύσουν μοντέλα ΤΝ που συχνά ανταγωνίζονται άμεσα τις εκδόσεις ως πηγές factual information. (Το ίδιο could be said for publishing, music, and fine art.) But somehow I don’t think that’s what Karp had in mind.
Ένας φίλος στον χώρο των χρηματοοικονομικών suggested ότι αυτό που πραγματικά έχει ενοχλήσει τον Karp—καθώς και μερικούς normally more sober executives, such as Microsoft’s Satya Nadella, who interestingly has been making some similar claims lately about the rapacious nature of the frontier AI labs —are not Anthropic’s and OpenAI’s business models, but their likely IPOs. Those IPOs will no doubt be in high demand. And to raise the liquidity necessary to buy OpenAI or Anthropic shares, institutional investors may look to sell other tech names—tech names such as, well, Palantir. Θυμηθείτε, just because you’re paranoid, doesn’t mean they aren’t out to get you.
Με αυτό, εδώ είναι περισσότερα νέα για την ΤΝ.
Jeremy Kahn
jeremy.kahn@fortune.com
@jeremyakahn

Αυτό το άρθρο δημοσιεύτηκε αρχικά στο Fortune.com