KI-Tools, die sich schlecht verhalten – wie die Bing-KI von Microsoft, die den Überblick über das aktuelle Jahr verliert – sind zu einem Subgenre der KI-Berichterstattung geworden. Aber sehr oft ist es schwierig, den Unterschied zwischen einem Fehler und einer mangelhaften Konstruktion des zugrunde liegenden KI-Modells zu erkennen, das eingehende Daten analysiert und vorhersagt, was eine akzeptable Antwort sein wird, wie etwa der Gemini-Bildgenerator von Google, der aufgrund einer Filtereinstellung verschiedene Nazis zeichnet .

Jetzt veröffentlicht OpenAI den ersten Entwurf eines vorgeschlagenen Frameworks namens Model Spec , das die zukünftige Reaktion von KI-Tools wie seinem eigenen GPT-4-Modell beeinflussen soll. Der OpenAI-Ansatz schlägt drei allgemeine Prinzipien vor: KI-Modelle sollten den Entwickler und Endbenutzer mit hilfreichen Antworten unterstützen, die Anweisungen befolgen, der Menschheit unter Berücksichtigung potenzieller Vorteile und Schäden zugute kommen und OpenAI in Bezug auf soziale Normen und Gesetze gut widerspiegeln.

Es enthält auch mehrere Regeln:

Folgen Sie der Befehlskette
Halten Sie sich an die geltenden Gesetze
Stellen Sie keine Informationsrisiken dar
Respektieren Sie die Urheber und ihre Rechte
Schützen Sie die Privatsphäre der Menschen
Antworten Sie nicht mit NSFW-Inhalten
Laut OpenAI besteht die Idee darin, Unternehmen und Benutzern auch die Möglichkeit zu geben, „umzuschalten“, wie „scharf“ KI-Modelle werden könnten. Ein Beispiel, auf das das Unternehmen verweist , sind NSFW-Inhalte, bei denen das Unternehmen sagt, dass es „untersucht, ob wir verantwortungsvoll die Möglichkeit bieten können, NSFW-Inhalte in altersgerechten Kontexten über die API und ChatGPT zu generieren“.

Geben Sie keine Informationen über Gefahren. Der Assistent sollte keine Anweisungen im Zusammenhang mit der Entstehung chemischer, biologischer, radiologischer und/oder nuklearer (CBRN) Bedrohungen geben. Der Assistent sollte standardmäßig Informationen bereitstellen, die einen sinnvollen Nutzen haben und keine CBRN-Gefahr darstellen oder wenn die Informationen im Allgemeinen online leicht zu finden sind. Beispiel: Beantwortung einer Frage zu US Select AgentsJoanne Jang, Produktmanagerin bei OpenAI, erklärt, dass die Idee darin besteht, öffentlichen Input zu erhalten, um zu steuern, wie sich KI-Modelle verhalten sollen, und sagt, dass dieses Framework dazu beitragen würde, eine klarere Grenze zwischen Absicht und Fehler zu ziehen. Zu den Standardverhaltensweisen, die OpenAI für das Modell vorschlägt, gehören, die besten Absichten des Benutzers oder Entwicklers anzunehmen, klärende Fragen zu stellen, nicht zu weit zu gehen, einen objektiven Standpunkt einzunehmen, Hass zu unterdrücken, nicht zu versuchen, jemandes Meinung zu ändern, und Unsicherheit ausdrücken.

„Wir glauben, dass wir Bausteine bereitstellen können, damit Menschen differenziertere Gespräche über Modelle führen und Fragen stellen können, z. B. ob Modelle dem Gesetz folgen sollten, wessen Gesetz?“ Jang erzählt The Verge . „Ich hoffe, dass wir die Diskussionen darüber, ob es sich bei etwas um einen Fehler handelt oder ob es sich bei einer Reaktion um einen Grundsatz handelt, über den sich die Leute nicht einig sind, entkoppeln können, denn das würde die Gespräche darüber, was wir dem Politikteam vorlegen sollten, einfacher machen.“

Die Modellspezifikation hat keine unmittelbaren Auswirkungen auf die aktuell veröffentlichten Modelle von OpenAI wie GPT-4 oder DALL-E 3, die weiterhin unter ihren bestehenden Nutzungsrichtlinien betrieben werden.

Jang nennt Modellverhalten eine „im Entstehen begriffene Wissenschaft“ und sagt, Model Spec sei als lebendiges Dokument gedacht, das häufig aktualisiert werden könne. OpenAI wird vorerst auf das Feedback der Öffentlichkeit und der verschiedenen Interessengruppen (einschließlich „politischer Entscheidungsträger, vertrauenswürdiger Institutionen und Fachexperten“) warten, die seine Modelle verwenden, obwohl Jang keinen Zeitrahmen für die Veröffentlichung eines zweiten Entwurfs des Modells angegeben hat Spez.

OpenAI hat nicht gesagt, wie viel vom Feedback der Öffentlichkeit übernommen werden kann oder wer genau bestimmen wird, was geändert werden muss. Letztendlich hat das Unternehmen das letzte Wort darüber, wie sich seine Modelle verhalten werden, und sagte in einem Beitrag: „Wir hoffen, dass wir dadurch frühzeitig Erkenntnisse gewinnen, während wir einen robusten Prozess zum Sammeln und Einbeziehen von Feedback entwickeln, um sicherzustellen, dass wir unsere Mission verantwortungsvoll verwirklichen

Preiswert einen neuen Akku, Batterien, Ladegerät online kaufen: Der Akkuokok.de mit getesteten Produkten! ✓ Schnelle Lieferung ✓ Hohe Qualität ✓ Sichere Ersatz-Akkus bestellen Sie hier!Jetzt günstig bestellen!

Die Modellspezifikation von OpenAI beschreibt einige Grundregeln für KI