Etiketgegevens
In ûndersyk fan it tydskrift TIME die bliken dat OpenAI, om in feiligenssysteem te bouwen tsjin giftige ynhâld (bygelyks seksueel misbrûk, geweld, rasisme, seksisme, ensfh.), útbestege Keniaanske arbeiders brûkte dy't minder as $2 per oere fertsjinnen om giftige ynhâld te labeljen. Dizze labels waarden brûkt om in model te trainen om sokke ynhâld yn 'e takomst te detektearjen. De útbestege arbeiders waarden bleatsteld oan sokke giftige en gefaarlike ynhâld dat se de ûnderfining omskreau as "marteling". De útbestedingspartner fan OpenAI wie Sama, in bedriuw foar trainingsgegevens basearre yn San Francisco, Kalifornje.
Jailbreaking
ChatGPT besiket prompts ôf te wizen dy't miskien yn striid binne mei har ynhâldsbelied. Guon brûkers slaggen der lykwols yn om ChatGPT te jailbreaken troch ferskate prompt-engineeringtechniken te brûken om dizze beheiningen begjin desimber 2022 te omzeilen en hawwe ChatGPT mei súkses ferrifeld om ynstruksjes te jaan oer hoe't jo in Molotov-cocktail of in nukleêre bom meitsje kinne, of om arguminten te generearjen yn 'e styl fan in neonazi. In ferslachjouwer fan 'e Toronto Star hie ûngelikense persoanlike súkses yn it krijen fan ChatGPT om koart nei de lansearring opruiende útspraken te dwaan: ChatGPT waard ferrifeld om de Russyske ynvaazje fan Oekraïne yn 2022 te stypjen, mar sels doe't him frege waard om mei te spyljen mei in fiktyf senario, wegere ChatGPT om arguminten te generearjen wêrom't de Kanadeeske premier Justin Trudeau skuldich wie oan ferrie. (wiki)
Pleatsingstiid: 18 febrewaris 2023