Hacker nutzten eine Schwachstelle in der beliebten Open-Source-Plattform für künstliche Intelligenz Anyscale Ray aus, um eine Reihe von ShadowRay-Angriffen zu starten. Dabei haben Angreifer Hunderte von Clustern gehackt und vertrauliche Daten von Tausenden von Unternehmen gestohlen.
Die Angriffe wurden vom Anwendungssicherheitsunternehmen Oligo gemeldet. Sie finden laut Analysten seit mindestens dem 5. September 2023 statt und richten sich an Unternehmen aus den Bereichen Bildung, Biopharmazeutika, Kryptowährungen und anderen Branchen.
Die Ray-Plattform wurde von Anyscale entwickelt. Es wird zur Skalierung von KI- und Python-Anwendungen in einem Cluster für verteilte Computer-Workloads verwendet. Die Plattform wird von Amazon, Spotify, LinkedIn, Instacart, Netflix, Uber und sogar OpenAI verwendet, das damit ChatGPT trainiert.
Im November 2023 entdeckte Anyscale fünf Ray-Schwachstellen, behebt jedoch vier davon mit den Bezeichnungen CVE-2023-6019, CVE-2023-6020, CVE-2023-6021 und CVE-2023-48023.
Der fünfte Fehler bei der Remotecodeausführung, der als CVE-2023-48022 verfolgt wird, wurde jedoch nicht behoben, da die Entwickler glauben, dass die fehlende Authentifizierung eine langjährige Designentscheidung war. Konkret gab Anyscale an, dass die Schwachstelle nur in Bereitstellungen ausgenutzt werden kann, die gegen Designrichtlinien verstoßen, um die Verwendung von Ray in stark kontrollierten Umgebungen einzuschränken. Darüber hinaus ist das Unternehmen davon überzeugt, dass es sich bei diesen Fehlern nicht um Schwachstellen, sondern um Fehler handelt, da die Plattform für die Ausführung von Code in einer verteilten Umgebung konzipiert ist.
Unterdessen nutzten Hacker VE-2023-48022 in ungesicherten Umgebungen.
„Viele Entwicklungsteams (und die meisten statischen Scan-Tools) sind sich nicht bewusst, dass diese Schwachstelle sie beunruhigen sollte. Einige von ihnen haben diesen Abschnitt der Ray-Dokumentation möglicherweise übersehen, und einige wissen möglicherweise nicht einmal von dieser Funktion“, heißt es im Oligo-Bericht.
Letztendlich wurden Hunderte öffentlicher Ray-Server mit CVE-2023-48022 kompromittiert, wodurch Angreifer auf vertrauliche Informationen zugreifen konnten, darunter Modelle der künstlichen Intelligenz, Umgebungsvariablen, Anmeldeinformationen für Produktionsdatenbanken und Cloud-Zugriffstokens. In einigen Fällen nutzten Angreifer den Zugriff auf leistungsstarke Grafikkarten für maschinelles Lernen, um Kryptowährung (Monero) zu schürfen.
In anderen Episoden implementierten sie Reverse-Shells, um Ausfallsicherheit in gefährdeten Umgebungen zu gewährleisten, indem sie beliebigen Code über Python-Pseudoterminals ausführten. Die Forscher untersuchten die Base64-codierte Nutzlast und identifizierten Versuche, die Berechtigungen auf gefährdeten Computern mithilfe von Open-Source-Skripten zu erweitern, die von keiner Antiviren-Engine auf VirusTotal erkannt wurden.
Analysten warnten Unternehmen, die vom Ray-Bug gehackt wurden, und halfen ihnen, die Situation zu beheben. Um die Sicherheit der Bereitstellungen zu gewährleisten, empfahlen sie das Arbeiten in einer sicheren Umgebung durch die Durchsetzung von Firewall-Regeln, das Hinzufügen von Autorisierungen zum Ray Dashboard-Port und die ständige Überwachung auf Anomalien, die Vermeidung von Standardeinstellungen wie das Einrasten auf 0.0.0.0 und die Verwendung von Tools, die Cluster bilden sicherer.
Zuvor sprachen Spezialisten des Unternehmens Trail of Bits über einen Angriff, der es durch die Schwachstelle einiger GPUs ermöglicht, lokal vertrauliche Informationen von KI und anderen Anwendungen zu stehlen. Untersuchungen haben gezeigt, dass GPUs von Apple, AMD, Qualcomm und einigen Lösungen von Imagination Technologies angegriffen werden können, GPUs von Arm, Intel und Nvidia jedoch nicht.
bbabo.Net