Prompt Injection Via Road Signs
Interesting research: “CHAI: Command Hijacking Against Embodied AI.” Abstract: Embodied Artificial Intelligence (AI) promises to handle edge cases in robotic vehicle systems where data is scarce by using common-sense reasoning grounded in perception and action to generalize beyond training distributions and adapt to novel real-world situations. These capabilities, however, also create new security risks. In this paper, we introduce CHAI (Command Hijacking against embodied AI), a new class of prompt-based attacks that exploit the multimodal language interpretation abilities of Large Visual-Language Models (LVLMs). CHAI embeds deceptive natural language instructions, such as misleading signs, in visual input, systematically searches the token space, builds a dictionary of prompts, and guides an attacker model to generate Visual Attack Prompts. We evaluate CHAI on four LVLM agents; drone emergency landing, autonomous driving, and aerial object tracking, and on a real robotic vehicle. Our experiments show that CHAI consistently outperforms state-of-the-art attacks. By exploiting the semantic and multimodal reasoning strengths of next-generation embodied AI systems, CHAI underscores the urgent need for defenses that extend beyond traditional adversarial robustness...
Neue Waymo-Robotaxis Ojai besser für schlechtes Wetter geeignet
Die neuen Waymo-Robotaxis, die als Minivans aus China konzipiert sind, repräsentieren die 6. Generation der Waymo-Fahrzeuge. Sie verfügen über verbesserte Kameras und Sensoren, die eine bessere Leistung bei schlechten Wetterbedingungen ermöglichen.
Frequently Asked Questions
Q:Was sind Waymo-Robotaxis?
Waymo-Robotaxis sind autonome Fahrzeuge, die von Waymo, einem Tochterunternehmen von Alphabet Inc., entwickelt wurden und ohne menschliches Eingreifen fahren können.
Q:Wie sind die neuen Waymo-Robotaxis für schlechtes Wetter geeignet?
Die neuen Waymo-Robotaxis in Ojai sind mit verbesserten Sensoren und Software ausgestattet, die ihre Leistung bei schlechten Wetterbedingungen optimieren.
Q:In welcher Region sind die neuen Waymo-Robotaxis verfügbar?
Die neuen Waymo-Robotaxis sind derzeit in Ojai, Kalifornien, verfügbar.
Q:Was sind die Vorteile autonomer Fahrzeuge bei schlechtem Wetter?
Autonome Fahrzeuge können durch fortschrittliche Sensoren und Algorithmen sicherer navigieren, auch bei schlechten Wetterbedingungen wie Regen oder Nebel.
Q:Wie wird die Sicherheit der Waymo-Robotaxis gewährleistet?
Die Sicherheit der Waymo-Robotaxis wird durch umfangreiche Tests, regelmäßige Software-Updates und die Verwendung von hochmodernen Sensoren gewährleistet.