Hem
ToppnyheterSenaste nytt
Bli medlem
ANNONS
ANNONS
(Michael Dwyer / AP)
Utvecklingen av AI

Open AI-team ska identifiera potentiella AI-katastrofer

Av Mats Karlsson
Publicerad: 27 okt. 2023
ANNONS

Open AI har meddelat att företaget har tillsatt ett nytt team som ska utvärdera och granska AI-modeller för att kunna förebygga potentiella katastrofer. Det rapporterar Techcrunch.

Teamet får namnet ”Preparedness” och leds av Aleksander Madry, som är chef för universitetet MIT:s avdelning Center for Deployable Machine Learning.

De huvudsakliga arbetsuppgifterna för teamet består i att förutspå faror och ta fram skyddsmekanismer mot riskerna med AI-system. Det handlar till exempel om AI:s förmåga att övertyga och lura människor, eller generera skadlig kod. Gruppen kommer enligt Open AI att titta på både tydliga och mindre uppenbara risker.

ANNONS
Ska studera både tydliga och mindre uppenbara risker
techcrunch.com
Gruppen leds av universitetet MIT:s Aleksander Madry
www.searchenginejournal.com
Annons
Se bredbandsabonnemang på din adress och jämför pris och hastighet
Bredbandsval
ANNONS
Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen
Utvecklingen av AIOpen AIIt, InformationsteknologiArtificiell intelligensData, it & högteknologi

Forssmed: AI ska inte få bygga relationer med barn

AI-tjänster måste förbjudas från att bygga artificiella relationer med barn och unga under 18 år. Det skriver KD-toppen Jakob Forssmed på SvD Debatt.

7 november, 13.49
Illustrationsbild.

Google stäms efter flickas AI-samtal på skoldator

Ett par föräldrar i North Carolina i USA stämmer Google för att deras 13-åriga dotter utvecklat psykisk ohälsa efter att ha använt bolagets AI-tjänster. Det rapporterar Bloomberg.

6 november, 11.29
Illustrationsbild av unga tjejer.

Robotar spurtade 3 000 trappsteg på heligt berg

Olika slags robotar tävlade i att ta sig uppför det heliga berget Taishan i Kina i måndags, rapporterar CBS News.

6 november, 10.50

Japansk minister trött på att bli felöversatt av X

Japans handelsminister Ryosei Akazawa anklagar Elon Musks plattform X för att orsaka diplomatiskt trubbel, rapporterar AFP.

6 november, 10.22
Ryosei Akazawa