ChatGPT 將用戶引導至一個網站，因為它沒有這個功能——所以創始人創建了它

当你的网站被海量上传文件轰炸，无法处理时，你会怎么做？软件开发人员兼音乐家 Adrian Holovaty å°±é‡åˆ°äº†è¿ ™ç§æƒ…å†µï¼Œä»–å‘çŽ°å…¬å¸ä¹è°±æ‰«æä»ªä¸Šä¼ å¤±è´¥çš„æ–‡ä»¶æ•°é‡å‡ºçŽ°äº†å¼‚å¸¸æ¿ €å¢žã€‚

令他没 想到的是，罪魁祸首竟然是ChatGPT。

åœ¨æœ€è¿ ‘的博客文章声音片段 è”åˆåˆ›å§‹äººè§£é‡Šè¯´ï¼Œä»–åœ¨æŸ¥çœ‹é”™è¯¯æ—¥å¿ —时发现，ChatGPT 指示用户将 ASCII“tABs”（吉他手和其他人用来代替 乐谱的简单音乐格式）上传到 Soundslice 中，以便 æ”¶å¬éŸ³é¢‘å›žæ”¾ã€‚é—®é¢˜æ˜¯ï¼Œè¿ ™é¡ ¹åŠŸèƒ½æ ¹æœ¬ä¸å­˜åœ¨ã€‚因此，Holovaty 决定开发它。

Holovaty å†™é“ï¼šâ€œæ®æˆ‘æ‰€çŸ¥ï¼Œè¿ ™æ˜¯ç¬¬ä¸€å®¶å…¬å¸å¼€å‘ä¸€é¡ ¹åŠŸèƒ½çš„æ¡ ˆä¾‹ï¼Œå› ä¸º ChatGPT 错误地告诉人们它的存在。”

于 2012 年推出，Soundslice是一个交互式音乐学习和共享平台，可以将照片或 PDF 中的乐谱数字化。

â€œæˆ‘ä»¬çš„æ‰«æç³»ç»ŸåŽŸæœ¬å°±ä¸æ”¯æŒè¿ ™ç§ç¬¦å·é£Žæ ¼ï¼Œâ€éœæ´›ç“¦è’‚å†™é“ã€‚â€œé‚£ä¹ˆï¼Œä¸ºä»€ä¹ˆæˆ‘ä»¬ä¼šè¢«è¿ ™ä¹ˆå¤š ASCII 标签的 ChatGPT 截图轰炸呢？我困惑了好几个星期——直到我自己动手尝试了一下 ChatGPT。”

æˆ‘ä»¬ä»Žæœªæ”¯æŒè¿ ‡ ASCII 标签；ChatGPT å®Œå…¨æ˜¯åœ¨æ¬ºéª—ç”¨æˆ·ã€‚è¿ ™ä¸ä»…è®©æˆ‘ä»¬é¢œé¢æ‰«åœ°ï¼Œè¿ ˜ç»™æˆ‘们的服务 带来了错误的预期。

AI 幻觉现象 屡 见不鲜。自 2022 å¹´ ChatGPT 公开发布以来，已有无数实例聊天机器人，包括 ChatGPT、Google双子座以及 AnthrOPic çš„å…‹åŠ³å¾·Â·è‰¾ï¼Œå°†è™šå‡æˆ–è¯¯å¯¼æ€§ä¿ ¡ 息当作事实。

虽然 OpENAI 没 有提及 Holovaty 的说法，但该公司承 认幻觉仍然是一个问题。

OPEnAI çš„ä¸€ä½å‘è¨€äººè¡ ¨ç¤ºï¼šâ€œè§£å†³å¹»è§‰é—®é¢˜æ˜¯ä¸€ä¸ªæ­£åœ¨è¿ ›è¡ Œçš„ç ”ç©¶é¢†åŸŸã€‚â€è§£å¯†â€œé™¤äº†æ˜Žç¡ ®å‘ŠçŸ¥ç”¨æˆ·ChatGPTå¯èƒ½ä¼šçŠ¯é”™è¯¯ä¹‹å¤–ï¼Œæˆ‘ä»¬è¿ ˜åœ¨ä¸æ–­åŠªåŠ›é€šè¿ ‡å„种方法提高模 åž‹çš„å‡†ç¡ ®æ€§å’Œå¯é æ€§ã€‚”

OpenAI 建议用户将 ChatGPT 的回复视为初稿 ï¼Œå¹¶é€šè¿ ‡å¯é æ¥æºéªŒè¯ä»»ä½•å…³é”®ä¿ ¡ 息。它在系统卡 å’Œå®‰å…¨è¯„ä¼°ä¸­å¿ ƒå‘布模 型评估数据。

“幻觉不会消失，”西 åŒ—äººå·¥æ™ºèƒ½å’¨è¯¢å…¬å¸è”åˆåˆ›å§‹äººå…¼é¦–å¸­æ‰§è¡ Œå®˜ Wyatt Mayham 告诉解密“在某些情况下，比如创意写作或头脑风暴，幻觉实际上是有用的。”

è¿ ™æ­£æ˜¯éœæ´›ç“¦è’‚所采取的方法。

“我们最终决定：管 他呢？我们不如满 足市场需求，”他说。“所以我们定制了一个 ASCII æ ‡ç­¾å¯¼å…¥å™¨ï¼Œè¿ ™åœ¨æˆ‘‘预计 在 2025 å¹´å¼€å‘çš„è½¯ä»¶â€™æ¸…å•ä¸­æŽ’åé åŽï¼Œæˆ‘ä»¬è¿ ˜ä¿ ®æ”¹äº†æ‰«æç³»ç»Ÿçš„ UI æ–‡æ¡ ˆï¼Œä»¥ä¾¿ å‘å¤§å®¶ä»‹ç»è¿ ™ä¸ªåŠŸèƒ½ã€‚”

Holovaty 没 有回应解密请求评论。