Ein Pionierforscher ist besorgt über die schnelle Verbreitung generativer KI und entwickelt Software, um eine Technologie im Auge zu behalten, die zunehmend menschliche Aufgaben übernimmt.
Der kanadische Informatikprofessor Yoshua Bengio gilt als einer der Paten der künstlichen Intelligenzrevolution und kündigte am Dienstag den Start von Lawzero an, einer gemeinnützigen Organisation, mit der die inhärenten Risiken der Technologie gemindert werden sollen.
Der Gewinner des Turing Award, auch als Nobelpreis für Informatik bekannt, warnt seit mehreren Jahren vor KI -Risiken, sei es durch seine böswillige Verwendung oder die Software selbst schief geht.
Diese Risiken nehmen mit der Entwicklung von sogenannten KI-Agenten zu, eine Verwendung der Technologie, die Computer mit Entscheidungen, die einst von menschlichen Arbeitnehmern getroffen wurden, beauftragt.
Das Ziel dieser Agenten ist es, virtuelle Mitarbeiter aufzubauen, die praktisch jeden Job machen, der ein Mensch zu einem Bruchteil der Kosten erledigt.
„Derzeit wurde AI entwickelt, um den Gewinn zu maximieren“, sagte Bengio und fügte hinzu, dass es eingesetzt wurde, auch als es anhält, Fehler zu zeigen.
Darüber hinaus wird für Bengio eine menschliche Agentur der KI leicht für böswillige Zwecke wie Desinformation, Biowaffen und Cyberangriffe verwendet.
„Wenn wir die Kontrolle über Rogue Super-intelligent AIS verlieren, könnten sie der Menschheit sehr schaden“, sagte er.
Eines der ersten Ziele bei Lawzero ist es, die KI der Wissenschaftlerin zu entwickeln, eine Form der speziell ausgebildeten KI, die als Leitplanke verwendet werden kann, um sicherzustellen, dass sich andere AIs ordnungsgemäß verhalten, sagte das Unternehmen.
Die Organisation hat bereits über 15 Forscher und hat Finanzmittel von Schmidt Sciences erhalten, einer Wohltätigkeitsorganisation, die vom ehemaligen Google -Chef Eric Schmidt und seiner Frau Wendy eingerichtet wurde.
Das Projekt wird als leistungsstarke Großsprachenmodelle (oder LLMs) von OpenAI, Google und Anthropic in allen Bereichen der digitalen Wirtschaft eingesetzt und zeigten dennoch erhebliche Probleme.
Dazu gehören KI -Modelle, die eine Fähigkeit zeigen, falsche Informationen zu täuschen und zu fördern, auch wenn sie zunehmen …
