OpenAI ผู้สร้าง ChatGPT กำลังดำเนินการเพื่อรับรองความปลอดภัยของปัญญาประดิษฐ์! ตามที่พวกเขาประกาศเมื่อวันพุธที่ผ่านมา บริษัทวางแผนที่จะลงทุนทรัพยากรจำนวนมากและจัดตั้งทีมวิจัยใหม่ ซึ่งจะมีหน้าที่รับผิดชอบในการตรวจสอบให้แน่ใจว่า AI ของตนยังคงปลอดภัยสำหรับมนุษย์
แต่นั่นไม่ใช่ทั้งหมด! OpenAI ยังมองเห็นภาพว่าในอนาคต AI จะสามารถตรวจสอบพฤติกรรมของตัวเองได้อีกด้วยโครงการริเริ่มนี้มีเป้าหมายเพื่อป้องกันไม่ให้ปัญญาประดิษฐ์ขั้นสูงควบคุมไม่ได้และก่อให้เกิดอันตรายต่อมนุษยชาติ
OpenAI ลงทุนทรัพยากรมากขึ้นเพื่อป้องกันไม่ให้ ChatGPT กลายเป็น "ผู้กระทำการไม่ซื่อสัตย์"
ในบทความบนบล็อก Ilya Sutskever และ Jan Leike ผู้ร่วมก่อตั้งและหัวหน้าฝ่ายประสานงานของ OpenAI ได้กล่าวไว้ว่า พวกเขาแสดงความกังวลเกี่ยวกับพลังมหาศาลของปัญญาประดิษฐ์ขั้นสูง.
พวกเขาเตือนว่าพลังนี้อาจนำไปสู่การสูญเสียอำนาจหรือแม้กระทั่งการสูญพันธุ์ของมนุษยชาติ แม้ว่าพวกเขาจะยอมรับว่าในปัจจุบันพวกเขายังไม่มีวิธีควบคุมปัญญาประดิษฐ์ที่มีศักยภาพสูงเหนือกว่าคนทั่วไป และเพื่อป้องกันพฤติกรรมที่ไม่สุจริต พวกเขาจึงมุ่งมั่นที่จะเผชิญกับความท้าทายนี้
ผู้เขียนบล็อกคาดการณ์ว่า AI อัจฉริยะขั้นสูง ซึ่งเป็นระบบที่ฉลาดกว่ามนุษย์ อาจปรากฏขึ้นในทศวรรษนี้ เนื่องจากตระหนักว่าเทคนิคในปัจจุบันยังไม่เพียงพอที่จะควบคุมปัญญาประดิษฐ์รูปแบบใหม่นี้ OpenAI จึงมุ่งเน้นไปที่สิ่งที่เรียกว่า... "การตรวจสอบความสอดคล้อง" สาขานี้มุ่งเน้นการทำให้มั่นใจว่าปัญญาประดิษฐ์ยังคงเป็นประโยชน์ต่อมนุษย์ และจำเป็นต้องมีการพัฒนาอย่างมาก
ขณะนี้ GPT-4 API พร้อมใช้งานแล้วสำหรับลูกค้า OpenAI API ที่ชำระค่าบริการทุกราย นอกจากนี้ GPT-3.5 Turbo, DALL·E และ Whisper API ก็พร้อมใช้งานแล้วเช่นกัน และเรากำลังประกาศแผนการยกเลิกการใช้งานสำหรับโมเดลเก่าบางรุ่น ซึ่งจะเริ่มดำเนินการตั้งแต่ต้นปี 2024 เป็นต้นไป https://t.co/H11w4IalNZ
—OpenAI (@OpenAI) กรกฎาคม 6, 2023
เพื่อรับมือกับความท้าทายนี้ OpenAI ได้ดำเนินการอย่างกล้าหาญ บริษัทดังกล่าว... ได้รับการสนับสนุนจาก Microsoftได้จัดสรร 20% ของกำลังการประมวลผลในช่วงสี่ปีข้างหน้า เพื่อแก้ไขปัญหานี้
นอกจากนี้ พวกเขายังจัดตั้งทีมเฉพาะกิจเพื่อดำเนินการในเรื่องนี้โดยเฉพาะ ซึ่งเรียกว่าทีม Superalignment เป้าหมายหลักของทีมนี้คือการพัฒนา AI ที่สามารถจำลองการทำงานของนักวิจัยได้ในระดับเดียวกับมนุษย์ จากนั้นจึงขยายขีดความสามารถโดยใช้พลังการประมวลผลจำนวนมาก
แต่ OpenAI มีแผนอย่างไรที่จะป้องกันไม่ให้ AI กลายเป็นสิ่งที่ไม่ซื่อสัตย์ในอนาคต? บริษัทมีแนวทางเชิงกลยุทธ์อยู่ในใจ พวกเขาวางแผนที่จะฝึกฝนระบบ AI โดยใช้ข้อมูลป้อนกลับจากมนุษย์ซึ่งจะช่วยให้ AI สามารถเรียนรู้จากความรู้และค่านิยมของเราได้
ต่อไป ระบบ AI จะได้รับการฝึกฝนเพื่อช่วยในการประเมินผลโดยมนุษย์ ทำให้พวกมันสามารถทำงานร่วมกับเราในการตัดสินใจได้ สุดท้ายนี้ OpenAI มีเป้าหมายที่จะฝึกฝนระบบ AI ให้สามารถทำการวิจัยเกี่ยวกับการจัดเรียงข้อมูลได้ด้วยตนเองโดยการเฝ้าสังเกตและแก้ไขพฤติกรรมของตนเอง
แม้ว่าโครงการริเริ่มนี้จะจุดประกายความกระตื่นร้นและความหวัง แต่ก็มีนักวิจารณ์บางส่วน ในฐานะผู้พิทักษ์ความปลอดภัยของปัญญาประดิษฐ์คอนเนอร์ ลีฮี ได้หยิบยกประเด็นสำคัญขึ้นมา
ลีฮีแย้งว่าแผนของ OpenAI มีข้อบกพร่อง เนื่องจาก ปัญญาประดิษฐ์ระดับมนุษย์อาจควบคุมไม่ได้และก่อให้เกิดความเสียหายร้ายแรง ก่อนที่จะถูกบังคับให้แก้ไขปัญหาด้านความปลอดภัยของ AI เขาอ้างว่าการแก้ไขปัญหาความสอดคล้องเป็นสิ่งสำคัญอย่างยิ่งก่อนที่จะพัฒนาสติปัญญาในระดับมนุษย์
การสร้างความตื่นเต้นเกินจริงเบื้องหลัง "อันตรายของ AI ต่อมนุษยชาติ"
อันตรายที่อาจเกิดขึ้นจากปัญญาประดิษฐ์ (AI) เป็นสิ่งที่อยู่ในใจของทั้งนักวิจัย AI และประชาชนทั่วไปมาโดยตลอด ในเดือนเมษายน กลุ่มผู้นำและผู้เชี่ยวชาญจากอุตสาหกรรมปัญญาประดิษฐ์ได้ลงนามในจดหมายเปิดผนึกเพื่อขอให้ระงับการใช้งานเป็นเวลาหกเดือน ในการพัฒนาระบบที่มีประสิทธิภาพมากกว่า GPT-4 ของ OpenAI เนื่องจากมีความเสี่ยงต่อสังคม
นอกจากนี้ ผลสำรวจของ Reuters/Ipsos ที่จัดทำขึ้นในเดือนพฤษภาคม เปิดเผยว่าชาวอเมริกันมากกว่าสองในสามกังวลเกี่ยวกับผลกระทบด้านลบที่อาจเกิดขึ้นจากปัญญาประดิษฐ์ และ 61% เชื่อว่ามันอาจเป็นภัยคุกคามต่ออารยธรรม.
อย่างไรก็ตาม การวิเคราะห์อย่างรอบคอบถึงข้อกล่าวอ้างที่ว่าปัญญาประดิษฐ์ (AI) เป็นภัยคุกคามที่ใกล้เข้ามาต่อมนุษยชาติเป็นสิ่งสำคัญ แม้ว่าจะเป็นความจริงที่ว่าปัญญาเหนือมนุษย์ก่อให้เกิดความท้าทายและข้อพิจารณาทางจริยธรรมมากมายก็ตาม การกล่าวอ้างว่าปัญญาประดิษฐ์จะนำไปสู่การลดอำนาจหรือแม้กระทั่งการสูญพันธุ์ของมนุษยชาติ เป็นการกล่าวเกินจริงไป.
มากมาย ข้อกล่าวอ้างเหล่านี้ถูกขยายความให้ใหญ่โตขึ้นด้วยการสร้างความตื่นเต้นเร้าใจ จากสื่อบางสำนักที่พยายามสร้างพาดหัวข่าวที่ดึงดูดความสนใจและสร้างความหวาดกลัวให้แก่สาธารณชน
สิ่งสำคัญคือต้องเข้าใจว่า AI ในปัจจุบันเป็นผลผลิตจากความคิดสร้างสรรค์ของมนุษย์และถูกออกแบบมาเพื่อปฏิบัติงานเฉพาะด้าน แนวคิดเรื่องปัญญาประดิษฐ์ที่มีความฉลาดขั้นสูงและสามารถตัดสินใจได้เองนั้น เป็นเพียงการคาดการณ์ในอนาคตมากกว่าความเป็นจริงในปัจจุบัน.
นอกจากนี้ สิ่งสำคัญคือต้องเน้นย้ำว่าความก้าวหน้าส่วนใหญ่ในด้านปัญญาประดิษฐ์นั้นมุ่งเน้นไปที่การใช้งานเฉพาะด้าน และ ไม่ใช่ในการสร้างระบบปัญญาประดิษฐ์ขั้นสูงทั่วไป.
แทนที่จะมุ่งเน้นไปที่สถานการณ์เลวร้ายและน่าหวาดกลัว การใช้แนวทางที่สมดุลและเป็นรูปธรรมในการพัฒนา AI นั้นสร้างสรรค์กว่านักวิจัยและองค์กรต่างๆ เช่น OpenAI กำลังดำเนินการเชิงรุกเพื่อให้มั่นใจในความปลอดภัยและการควบคุม AI
การวิจัยเกี่ยวกับการปรับระบบ AI ให้สอดคล้องกับคุณค่าของมนุษย์เป็นตัวอย่างหนึ่งของเรื่องนี้ เนื่องจากมีเป้าหมายเพื่อให้มั่นใจว่าระบบ AI ยังคงเป็นประโยชน์และสอดคล้องกับคุณค่าของมนุษย์ สิ่งสำคัญคือต้องแยกแยะเรื่องที่สร้างความตื่นตระหนกออกจากความเป็นจริง และส่งเสริมการสนทนาอย่างมีข้อมูลรอบด้าน และอ้างอิงจากหลักฐานเกี่ยวกับอนาคตของปัญญาประดิษฐ์และผลกระทบต่อสังคม
