Reddit AI搜索全球扩张引争议：危险医疗建议成焦点
Reddit本周将其AI驱动的搜索功能“Answers”推广至五种新语言，然而，该平台正面临日益增长的批评，因为这款聊天机器人被指控倾向于为医疗状况推荐危险物质，甚至包括将海洛因作为慢性疼痛的缓解方案。
Reddit AI“答案”全球扩张：危险医疗建议与平台治理挑战
这家社交媒体平台周四宣布，Reddit Answers现已支持法语、德语、西班牙语、意大利语和葡萄牙语，将服务范围扩展至巴西、法国、德国、西班牙、墨西哥和意大利的用户。自2024年进行测试版发布以来，这项利用谷歌AI模型总结社区讨论的功能，其每周用户量已从100万激增至600万。
AI被指推荐非法物质用于止痛
然而，此次功能扩展是在严重的安全性担忧中进行的。此前，有医疗专业人员发现在医疗相关的子版块中，Reddit Answers竟然推广海洛因和卡痛（kratom）作为止痛方案。r/FamilyMedicine子版块的一位版主就曾指出，该AI工具建议用户“停止服用现有处方药，转而服用大剂量卡痛”，并基于用户轶事推荐海洛因。
根据404 Media的报道，在回应慢性疼痛查询时，该AI曾引用Reddit上的一篇帖子，其中写道“讽刺的是，在那些情况下，海洛因拯救了我的生命”。这款聊天机器人还为新生儿发烧提供了可疑的建议，称如果新生儿体温升高，等待观察是可接受的。
r/FamilyMedicine的版主在一份社区公告中写道，该子版块对错误信息有严格规定，如果可能，他们会立即禁用此功能。版主们明确表示，目前不认可或支持Reddit Answers，并强烈建议所有用户忽略其提供的任何信息。
平台回应未能满足版主诉求
面对强烈反弹，Reddit实施了一项更新，旨在阻止敏感话题的“相关答案”出现在对话页面上。然而，版主们报告称，他们仍然无法完全禁用该功能，也无法在其社区内标记危险的回复。
Reddit的一位发言人向多家媒体表示：“此次更新确保了敏感话题的‘相关答案’（此前可能在帖子详情页可见）将不再显示。”但该公司尚未具体说明哪些话题已被排除在AI回复之外。
此次争议凸显了人们对AI聊天机器人在缺乏适当安全保障的情况下提供医疗建议的更广泛担忧。类似的问题也曾困扰其他AI系统，包括谷歌的AI概览（AI Overviews），该系统此前曾建议在披萨上使用“无毒胶水”。
Reddit首席执行官史蒂夫·霍夫曼（Steve Huffman）在该公司第二季度财报会议上透露，该平台的整体搜索功能每周吸引超过7000万用户，而Reddit Answers的用户数也已达到600万以上。该公司计划最终统一传统搜索和AI驱动的搜索体验，作为其与ChatGPT和Perplexity等其他对话式AI工具竞争的更广泛战略的一部分。
(来源：前途科技)
