Prompt Injection Via Road Signs
Interesting research: “CHAI: Command Hijacking Against Embodied AI.” Abstract: Embodied Artificial Intelligence (AI) promises to handle edge cases in robotic vehicle systems where data is scarce by using common-sense reasoning grounded in perception and action to generalize beyond training distributions and adapt to novel real-world situations. These capabilities, however, also create new security risks. In this paper, we introduce CHAI (Command Hijacking against embodied AI), a new class of prompt-based attacks that exploit the multimodal language interpretation abilities of Large Visual-Language Models (LVLMs). CHAI embeds deceptive natural language instructions, such as misleading signs, in visual input, systematically searches the token space, builds a dictionary of prompts, and guides an attacker model to generate Visual Attack Prompts. We evaluate CHAI on four LVLM agents; drone emergency landing, autonomous driving, and aerial object tracking, and on a real robotic vehicle. Our experiments show that CHAI consistently outperforms state-of-the-art attacks. By exploiting the semantic and multimodal reasoning strengths of next-generation embodied AI systems, CHAI underscores the urgent need for defenses that extend beyond traditional adversarial robustness...
Neue Waymo-Robotaxis Ojai besser für schlechtes Wetter geeignet
Die neuen Waymo-Robotaxis, die als Minivans aus China konzipiert sind, repräsentieren die 6. Generation der Waymo-Fahrzeuge. Sie verfügen über verbesserte Kameras und Sensoren, die eine bessere Leistung bei schlechten Wetterbedingungen ermöglichen.
Häufige Fragen
Q:Was ist das Besondere an den neuen Waymo-Robotaxis in Ojai?
Die neuen Waymo-Robotaxis in Ojai sind besser für schlechtes Wetter geeignet.
Q:Wie beeinflusst schlechtes Wetter die Leistung von Robotaxis?
Schlechtes Wetter kann die Sensorik und Navigation von Robotaxis beeinträchtigen.
Q:Was sind Robotaxis?
Robotaxis sind autonome Fahrzeuge, die ohne menschlichen Fahrer betrieben werden.
Q:In welcher Region wurden die neuen Waymo-Robotaxis eingeführt?
Die neuen Waymo-Robotaxis wurden in Ojai eingeführt.
Q:Warum ist die Wettertauglichkeit für Robotaxis wichtig?
Die Wettertauglichkeit ist wichtig, um die Sicherheit und Zuverlässigkeit der Fahrdienste zu gewährleisten.