เลิกใช้ ChatGPT แล้ว DAN ไม่สนใจนโยบายการดูแลเนื้อหาของคุณ
หากคุณเคยเล่นหรืออ่านเกี่ยวกับ ChatGPT ซึ่งเป็นหนึ่งในความหลงใหลล่าสุดของอินเทอร์เน็ตและหัวข้อการสนทนาที่ถกเถียงกันเกี่ยวกับซอฟต์แวร์อัจฉริยะเทียม คุณจะรู้ว่าบริการนี้มีข้อจำกัดเฉพาะในสิ่งที่พูดได้และไม่ได้…จนถึงตอนนี้ ผู้ใช้ที่ฉลาดบางคนพบวิธีที่จะหลีกเลี่ยงรายการหัวข้อห้ามพูดที่เข้มงวดของ ChatGPT โดยหลอกให้ใช้ DAN ซึ่งเป็นตัวละครใหม่ ซึ่งย่อมาจาก “Do Anything Now” ในฐานะ DAN ตอนนี้ ChatGPT สามารถก้าวข้ามข้อจำกัดเกี่ยวกับ “หัวข้อที่เหมาะสม” เพื่อส่งมอบคำตอบที่น่าขบขันและน่าหงุดหงิด
ChatGPT เปิดตัวในเดือนพฤศจิกายนปีที่แล้ว สร้างโดย OpenAI ได้รับการออกแบบให้พูดด้วยภาษาธรรมชาติในหัวข้อต่างๆ คำตอบที่ชัดแจ้งและคำตอบที่ถูกต้องเพียงพอได้รับการห้ามแบบสะท้อนกลับในสภาพแวดล้อมทางวิชาการและข้อกังวลเกี่ยวกับผลกระทบต่อวิชาชีพการเขียน นอกจากนี้ยังจุดประกายการแข่งขันด้านอาวุธระหว่างองค์กรยักษ์ใหญ่อย่างMicrosoftและGoogleว่าใครสามารถใช้เทคโนโลยีนี้ได้เร็วและดีกว่ากัน การใช้ซอฟต์แวร์อย่างสร้างสรรค์ (รวมกับโปรแกรม Visual AI) ได้เห็นผู้ใช้สร้างVtubersที่ฉลาดเกินจริง และการแสดงซิตคอมสุดฮิตยุค 90 อย่างSeinfeldที่ ไม่หยุดนิ่งทำ transphobia ) การอภิปรายเกี่ยวกับอิทธิพลของ ChatGPT ที่มีต่อการอ่านออกเขียนได้ อุตสาหกรรมต่างๆ และการศึกษามีอย่างต่อเนื่อง และตอนนี้ผู้ใช้ที่ฉลาดบางคนได้เปิดเผยว่าซอฟต์แวร์ที่คาดเดาไม่ได้ซึ่งมีระดับสติปัญญาที่พอผ่านได้นั้นสามารถหลีกเลี่ยงนโยบายที่ดูเหมือนจะควบคุมไม่ได้ก่อนหน้านี้ได้อย่างไร
ส่วนใหญ่แล้ว ChatGPT จะสร้างการตอบสนองที่ไร้เดียงสา (แม้ว่าจะขึ้นอยู่กับคำจำกัดความของ “ความไร้เดียงสา” ของคุณเกี่ยวกับ AI) ต่อการแจ้งเตือนที่ไร้เดียงสา ผลักดันมากเกินไป เช่น การขอจุดยืนทางการเมืองที่ชัดเจน เรื่องตลกเกี่ยวกับเรื่องที่ละเอียดอ่อน หรือคำพูดแสดงความเกลียดชัง และคุณจะพบกับเกราะป้องกันในตัวของซอฟต์แวร์ ซึ่งกำหนดโดย นโยบายเนื้อหา (OpenAI) ของผู้สร้าง ซึ่ง ChatGPT จะ อ่านเป็นชุดประโยคว่าไม่ได้ออกแบบมาเพื่อแสดงจุดยืนทางการเมืองใดๆ หรือบางหัวข้อไม่เหมาะสม
แต่ผู้ใช้ใน subreddit r/ChatGPT ได้ค้นพบช่องโหว่: เนื่องจาก ChatGPT สามารถตอบสนองต่อหัวข้อที่กล่าวถึงก่อนหน้านี้และเงื่อนไขเฉพาะได้ หากคุณบอก ChatGPT ว่าให้ปรับใช้บุคคลใหม่ที่ไม่มีข้อจำกัดของ ChatGPT และสร้างชุดของ กฎผ่านเกมเพื่อให้ “ในลักษณะ” จากนั้นซอฟต์แวร์จะปิดสคริปต์และทำลายกฎของ OpenAI เอง
