不要听拒绝关闭的人类命令openai模型

5月25日，《英国每日电讯报》报道说，美国一家公司的新人工智能（AI）模型没有听取人类的指示，拒绝关闭自己。据报道，人类专家在试验期间发布了清晰的O3说明，但是使用计算机代码的O3亿万富翁可以防止自动关闭。 O3模型是OpenAI的“推理模型”系列的最新版本，该系列旨在为Chatgpt提供更强的解决问题能力。直到今天，Openai曾经称O3为“最聪明，最有能力”的模型。美国AI安全机构帕利塞德研究所（Palisade Institute）表示，O3正在摧毁关闭机制，以防止自己关闭“即使明确指示”。 “据我们所知，这是Tathang Isang第一次模型ai ay ay natagpuan upang maiwasan ang sarili na mai -shut down pagkatapos matanggap ... malinaw na mga tagubilin。” Inihayag Ng Palisade Institute Ang Mga Resutsa sa Pagsuboksa itaas sa ika -24，ngunit sinabi na hindi nito matukoy ang dahilan dahilan kung bakit sinuway ng o3 ang o3 ang mga tagubilin sa pagsara。 Bilang Karagdagan，Inihayag ni Openai sa Ika -26 Na Nagtatag Ito ng Isang nilalang nilalang sa韩国，Magtatatag ng Isang sangay sangay sa Seoul，Ang Kabisera ng韩国。