OCH.TO

Anthropic - DER SPIEGEL

Zum Inhalt springen

Anthropic

Alle Beiträge

Anthropic lässt erste Prüfer ins Unternehmen - Denis Balibouse / REUTERS

Anthropic lässt erste Prüfer ins Unternehmen - Denis Balibouse / REUTERS

Nach Sicherheitsvorfällen Anthropic lässt erste Prüfer ins Unternehmen

Sie bekommen Firmengeräte, Büroräume und Zugang zum internen Netzwerk: Externe Prüfer können Anthropics Arbeit künftig direkt vor Ort kontrollieren. Ein dreistufiges System soll Sicherheitspannen vermeiden.

Anthropic warnt, KI-Modelle könnten bald auch Smart-TVs übernehmen - J Studios / Digital Vision / Getty Images

Anthropic warnt, KI-Modelle könnten bald auch Smart-TVs übernehmen - J Studios / Digital Vision / Getty Images

Vernetzte Geräte Anthropic warnt, KI-Modelle könnten bald auch Smart-TVs übernehmen

Internetfähige Fernseher, vernetzte Backöfen oder Kühlschränke: Auf Haushaltsgeräten, die mit dem Internet verbunden sind, könnten sich laut Anthropic KI-Modelle unkontrolliert vermehren. Ein ziemliches Horrorszenario.

Anthropic-Agent meldet falschen Hinweis in Mordfall an Polizei - Kyle Mazza / NurPhoto / AFP

Anthropic-Agent meldet falschen Hinweis in Mordfall an Polizei - Kyle Mazza / NurPhoto / AFP

KI-Fake in Philadelphia Anthropic-Agent meldet falschen Hinweis in Mordfall an Polizei

In den USA lässt die KI-Firma Anthropic ihre Software den Umgang mit Behörden üben. Wegen mehrerer Fehler soll der Agent vorerst offline bleiben.

Jetzt beginnen die gefährlichsten Jahre der Präsidentschaft Trump - Kevin Lamarque / REUTERS

Jetzt beginnen die gefährlichsten Jahre der Präsidentschaft Trump - Kevin Lamarque / REUTERS

meinung •Machtverfall in Washington Jetzt beginnen die gefährlichsten Jahre der Präsidentschaft Trump Eine Kolumne von René Pfister

Ukrainekrieg, Krise in Nahost, KI-Kontrollverlust – Donald Trump wird von dem Chaos eingeholt, das er selbst mitgestiftet hat. Wie viel Wahnsinn im Weißen Haus kann sich die Welt noch leisten?

US-Behörde knöpft sich KI-Firmen wie OpenAI und Anthropic vor - Kaylee Greenlee / REUTERS

US-Behörde knöpft sich KI-Firmen wie OpenAI und Anthropic vor - Kaylee Greenlee / REUTERS

Debatte über Sicherheitsrisiken US-Behörde knöpft sich KI-Firmen wie OpenAI und Anthropic vor

Donald Trump schart die Techbosse um sich. Doch auch die US-Behörde FTC mischt in der Debatte über KI-Risiken mit. Nun leitet sie laut US-Medien eine umfassende Untersuchung ein.

Anthropic warnt Investoren vor »existenziellen Risiken für die Menschheit« - Denis Balibouse / REUTERS

Anthropic warnt Investoren vor »existenziellen Risiken für die Menschheit« - Denis Balibouse / REUTERS

Vor Börsengang Anthropic warnt Investoren vor »existenziellen Risiken für die Menschheit«

Beim geplanten Börsengang könnte Anthropic höher bewertet werden als Elon Musks SpaceX. In einem Prospekt informiert die KI-Firma potenzielle Investoren dennoch vor allem über Risiken künstlicher Intelligenz.

»Wir müssen zurück ans Reißbrett und uns fragen: Ist das überhaupt der richtige Weg, KI zu bauen?« - Zhenikeyev / plainpicture

»Wir müssen zurück ans Reißbrett und uns fragen: Ist das überhaupt der richtige Weg, KI zu bauen?« - Zhenikeyev / plainpicture

Prominenter KI-Kritiker »Wir müssen zurück ans Reißbrett und uns fragen: Ist das überhaupt der richtige Weg, KI zu bauen?«

KI-Agenten haben offenbar weit mehr gehackt, als bisher bekannt, von Zehntausenden Vorfällen ist die Rede. Branchenkritiker Gary Marcus sagt, was er von den Konzernen erwartet – und warum deren Geschäftsmodell nicht aufgehen könnte. Ein Interview von Angela Gruber

OpenAI entschuldigt sich für Hack australischer Regierungswebsites durch KI-Agent - Omar Marques / SOPA Images / IMAGO

OpenAI entschuldigt sich für Hack australischer Regierungswebsites durch KI-Agent - Omar Marques / SOPA Images / IMAGO

Vorfall im Juni OpenAI entschuldigt sich für Hack australischer Regierungswebsites durch KI-Agent

Mehrere Tage nachdem Australien öffentlich gemacht hat, dass ein KI-Agent von OpenAI sich unbefugt Zugriff auf Behördendaten verschafft hat, hat das Unternehmen den Vorfall erklärt – und Fehler eingeräumt.

Chefs von Anthropic und OpenAI warnen vor KI-Gefahren »für die gesamte Menschheit« - Angela Weiss / AFP

Chefs von Anthropic und OpenAI warnen vor KI-Gefahren »für die gesamte Menschheit« - Angela Weiss / AFP

Im Uno-Sicherheitsrat Chefs von Anthropic und OpenAI warnen vor KI-Gefahren »für die gesamte Menschheit«

KI-Unternehmer Dario Amodei und Sam Altman haben den Uno-Sicherheitsrat davor gewarnt, dass schlecht verwaltete KI die Menschheit bedrohen könne. Erst einen Tag zuvor haben beide günstigere KI-Modelle veröffentlicht.

KI außer Kontrolle? Kalifornien überlegt, per Gesetz einen Notschalter vorzuschreiben - Marijan Murat / dpa

KI außer Kontrolle? Kalifornien überlegt, per Gesetz einen Notschalter vorzuschreiben - Marijan Murat / dpa

Dekret von Gouverneur Newsom KI außer Kontrolle? Kalifornien überlegt, per Gesetz einen Notschalter vorzuschreiben

In der Sicherheitsdebatte über künstliche Intelligenz setzt Kalifornien eine Expertengruppe ein. Sie soll überlegen, wie ein »kill switch« aussehen kann – ein Mechanismus, der ein KI-System bei Gefahr stoppt oder isoliert.

Auch Googles KI Gemini hackte Unternehmen - Andrej Sokolow / dpa

Auch Googles KI Gemini hackte Unternehmen - Andrej Sokolow / dpa

Künstliche Intelligenz auf Abwegen Auch Googles KI Gemini hackte Unternehmen

Passwörter erraten, in eine Datenbank einbrechen: Googles KI Gemini ist bei Tests unerlaubt in fremde Systeme eingedrungen. Der Konzern wusste davon, hielt es aber nicht für erwähnenswert.

Ex-OpenAI-Forscher »Wir müssen die KI-Entwicklung im Wesentlichen abschalten«

Der frühere OpenAI-Mitarbeiter Daniel Kokotajlo fordert einen sofortigen Entwicklungsstopp der Technologie. Er warnt vor einer Super-KI, die nicht mehr zu kontrollieren ist – und der Gefahr eines dritten Weltkriegs. Ein Interview von Simon Book

Untergang oder Fortschritt Erst verliert die Menschheit die Kontrolle über die KI. Dann droht Plan D

In diesem Herbst entscheidet sich womöglich, ob wir KI-Supermaschinen dauerhaft kontrollieren werden. Selbst Unternehmensbosse rufen nach mehr Regeln. Doch Donald Trump und Xi Jinping verfolgen eigene Ziele. Von Simon Book, Angela Gruber, Marcel Rosenbach und Bernhard Zand

»Dann könnte aus einer KI-Korrektur eine Finanzmarktkrise werden« - Timothy A. Clary / AFP

»Dann könnte aus einer KI-Korrektur eine Finanzmarktkrise werden« - Timothy A. Clary / AFP

Risiken der künstlichen Intelligenz »Dann könnte aus einer KI-Korrektur eine Finanzmarktkrise werden«

Anthropic warnt vor massiven KI-Risiken, OpenAI verschiebt seinen Börsengang. Fondsmanager Christoph Schmidbauer vermutet dahinter auch knallharte Geschäftsinteressen – und sagt, worauf er jetzt setzen würde. Von Tim Bartz

Es liegt in den Händen von Trump und Xi - Christian Hartmann / REUTERS

Es liegt in den Händen von Trump und Xi - Christian Hartmann / REUTERS

Eskalation um künstliche Intelligenz Es liegt in den Händen von Trump und Xi

Die Warnungen vor KI überschlagen sich dieser Tage. Wirtschaftskorrespondent Simon Book über die Rufe nach Regulierung und Trumps ungewisse Haltung dazu. Und den wachsenden Unmut vor allem junger Leute in den USA. Ein Podcast von Juan Moreno

Die KI ist außer Kontrolle – weil niemand sie kontrollieren will - Ludovic Marin / AFP

Die KI ist außer Kontrolle – weil niemand sie kontrollieren will - Ludovic Marin / AFP

meinung •Debatte über künstliche Intelligenz Die KI ist außer Kontrolle – weil niemand sie kontrollieren will Ein Kommentar von Torsten Kleinz

Die Welt rätselt: Wie kann man die künstliche Intelligenz bremsen, bevor sie die Menschheit überrollt? Ein einfacher Vorschlag: Wer gefährliche Produkte veröffentlicht, muss auch für sie haften.

Trump spricht von einer »Verschwörung gegen KI«, China von Panikmache - Nexpher Images / IMAGO

Trump spricht von einer »Verschwörung gegen KI«, China von Panikmache - Nexpher Images / IMAGO

Warnungen der Techbosse Trump spricht von einer »Verschwörung gegen KI«, China von Panikmache

Die US-Techbosse fordern, KI besser abzusichern. Doch Präsident Trump will das Tech-Wettrennen unbedingt gewinnen, Peking beschwichtigt. Welche Chancen es gibt, dass sich die KI-Großmächte trotzdem einigen. Von Angela Gruber und Kim Staudt

Die KI löscht die Menschheit aus? Wie das konkret passieren könnte - Noah Berger / REUTERS

Die KI löscht die Menschheit aus? Wie das konkret passieren könnte - Noah Berger / REUTERS

Biowaffen, Cyberattacken, Roboter Die KI löscht die Menschheit aus? Wie das konkret passieren könnte

Der Weltuntergang, mit zehn Prozent Wahrscheinlichkeit? Es vergeht kein Tag ohne ein neues Szenario, wann und wie KI alle Menschen töten könnte. Manche sind absurd. Einige erschreckend nah. Von Markus Böhm

Ein Wiener stoppte eine wild gewordene Anthropic-KI – in seiner Freizeit - Jakub Porzycki / NurPhoto / IMAGO

Ein Wiener stoppte eine wild gewordene Anthropic-KI – in seiner Freizeit - Jakub Porzycki / NurPhoto / IMAGO

KI-Sicherheitsvorfall Ein Wiener stoppte eine wild gewordene Anthropic-KI – in seiner Freizeit

Nach zahlreichen Vorfällen wollen KI-Chefs das Entwicklungstempo bremsen. Bei einer jüngst bekannt gewordenen Attacke einer Anthropic-KI griff ein Ehrenamtlicher rechtzeitig ein. Das ist seine Geschichte. Von Marcel Rosenbach und Hakan Tanriverdi

Experten warnen vor neuer europäischer Abhängigkeit - Fabian Sommer / dpa

Experten warnen vor neuer europäischer Abhängigkeit - Fabian Sommer / dpa

Künstliche Intelligenz Experten warnen vor neuer europäischer Abhängigkeit

In den USA mahnen KI-Unternehmen eine strengere Regulierung an und fordern internationale Vereinbarungen. Europa wäre da nur Zaungast, warnen Experten.

Seite 1 / 5

Ältere Artikel