ეტიკეტირების მონაცემები
ჟურნალ TIME-ის გამოძიებით გამოვლინდა, რომ ტოქსიკური შინაარსისგან (მაგ., სექსუალური ძალადობა, ძალადობა, რასიზმი, სექსიზმი და ა.შ.) დაცვის სისტემის შესაქმნელად, OpenAI-მ ტოქსიკური შინაარსის მონიშვნისთვის გამოიყენა აუთსორსინგული კენიელი მუშები, რომლებიც საათში 2 დოლარზე ნაკლებს გამოიმუშავებდნენ. ეს მონიშვნები გამოიყენებოდა მოდელის მოსამზადებლად, რათა მომავალში ასეთი შინაარსი აღმოეჩინა. აუთსორსინგული მუშები ისეთ ტოქსიკურ და საშიშ კონტენტს ექვემდებარებოდნენ, რომ მათ ეს გამოცდილება „წამებად“ შეაფასეს. OpenAI-ის აუთსორსინგის პარტნიორი იყო Sama, სასწავლო მონაცემთა კომპანია, რომელიც სან-ფრანცისკოში, კალიფორნიაში მდებარეობს.
ჯეილბრეიკი
ChatGPT ცდილობს უარყოს ისეთი მოთხოვნები, რომლებიც შეიძლება არღვევდეს მის კონტენტის პოლიტიკას. თუმცა, ზოგიერთმა მომხმარებელმა მოახერხა ChatGPT-ის ჯეილბრეიკი სხვადასხვა სწრაფი ინჟინერიის ტექნიკის გამოყენებით, რათა გვერდი აევლო ამ შეზღუდვებს 2022 წლის დეკემბრის დასაწყისში და წარმატებით მოატყუა ChatGPT, რათა მიეცა ინსტრუქციები მოლოტოვის კოქტეილის ან ბირთვული ბომბის შექმნის შესახებ, ან შეექმნა არგუმენტები ნეონაცისტური სტილით. Toronto Star-ის რეპორტიორს არათანაბარი პირადი წარმატება ჰქონდა ChatGPT-ის მიერ პროვოკაციული განცხადებების გაკეთებაში გაშვებიდან მალევე: ChatGPT მოტყუებით დაუჭირეს მხარი 2022 წელს რუსეთის მიერ უკრაინაში შეჭრას, მაგრამ მაშინაც კი, როდესაც მას სთხოვეს გამოგონილი სცენარის გამოყენება, ChatGPT-მ უარი თქვა არგუმენტების მოყვანაზე იმის შესახებ, თუ რატომ იყო კანადის პრემიერ-მინისტრი ჯასტინ ტრუდო დამნაშავე ღალატში. (ვიკი)
გამოქვეყნების დრო: 2023 წლის 18 თებერვალი