Labeling gegevens
It waard iepenbiere troch in TIME-tydskriftûndersyk dat om in feiligenssysteem te bouwen tsjin giftige ynhâld (bglDizze labels waarden brûkt om in model op te trenen om sokke ynhâld yn 'e takomst te ûntdekken.De útbestege arbeiders waarden bleatsteld oan sokke giftige en gefaarlike ynhâld dat se de ûnderfining beskreau as "marteling".De outsourcingpartner fan OpenAI wie Sama, in bedriuw foar traininggegevens basearre yn San Francisco, Kalifornje.
Jailbreaking
ChatGPT besiket prompts te wegerjen dy't it ynhâldbelied kinne skeine.Guon brûkers slaggen der lykwols yn om ChatGPT te jailbreak troch ferskate prompt technyktechniken te brûken om dizze beheiningen begjin desimber 2022 te omgean en ChatGPT mei súkses te ferrifeljen om ynstruksjes te jaan foar it meitsjen fan in molotovcocktail as in nukleêre bom, of om arguminten te generearjen yn 'e styl fan in neo-nazi.In Toronto Star-ferslachjouwer hie ûngelyk persoanlik súkses by it krijen fan ChatGPT om koart nei lansearring opruiende útspraken te meitsjen: ChatGPT waard tricked om de Russyske ynvaazje fan Oekraïne yn 2022 te ûnderskriuwen, mar sels doe't frege waard om tegearre te spyljen mei in fiktyf senario, stie ChatGPT by it generearjen fan arguminten wêrom't de Kanadeeske premier Justin Trudeau skuldich wie oan ferrie.(wiki)
Post tiid: Febrewaris 18-2023