人类生成 or 机器生成?ChatGPT 引发了一场真假辩论_比特币:NFT

原文:英国《金融时报》,由DeFi之道编译。

图片来源:由无界AI生成

像ChatGPT这样的大型语言模型是合理性的提供者。许多聊天机器人基于所谓的生成式人工智能,经过训练可以通过在互联网上搜索相关信息并收集连贯的答案来回答用户的问题,从而生成令人信服的学生论文、权威的法律文件和可信的新闻报道。

但是,由于公开可用的数据包含错误信息和虚假信息,一些机器生成的文本可能不准确或不真实。这引发了人们争相开发工具来识别文本是由人还是机器起草的。科学也在努力适应这个新时代,现场讨论是否应该允许聊天机器人撰写科学论文,甚至产生新的假说。

全链域名服务商SPACE ID完成种子轮融资,Binance Labs领投:9月2日消息,全链域名服务商SPACEID宣布完成种子轮融资,本轮融资由BinanceLabs领投,具体融资金额及其它详细融资信息暂未透露。

Binance Labs 表示,目前包括 Project Galaxy、DODO、STEPN、Trust Wallet、Chainlink、Ankr、CyberConnect、Mathwallet,以及更多 BNB Chain 生态系统中的项目开发者均与 SPACE ID 在进行密切合作。SPACE ID 正在构建一个通用域名标准和一个软件开发工具包 (SDK),旨在通过去中心化身份基础设施和互操作性为 Web3 提供核心解决方案,将 Binance 的 .bnb 域名服务提升至新的水平。[2022/9/2 13:04:54]

区分人工智能和人类智能的重要性与日俱增。本月,瑞银分析师透露,ChatGPT是历史上增长最快的网络应用程序,1月份每月活跃用户达到1亿。一些部门已经决定没有必要锁住稳定的大门:周一,国际文凭组织表示,学生将被允许使用ChatGPT撰写论文,前提是他们注明引用了它。

全球首件区块链全链路艺术品交易成功:9月25日下午,IMS(天下秀)发布全球首个区块链数字经济艺术价值应用解决方案Hashii Art。同时,IMS(天下秀)创始人及董事长李檬现场在Hashii Art配套小程序“艺术圈 Art Loop”上购买了新裤子乐队主唱彭磊的绘画作品《联欢会》,代表着全球第一件区块链全链路艺术品交易。[2020/9/25]

平心而论,这项技术的创造者坦率地指出了它的局限性。OpenAI首席执行官萨姆奥特曼(SamAltman)去年12月警告说,ChatGPT“在某些方面足够出色,足以给人一种伟大的误导印象”。我们在稳健性和真实性方面还有很多工作要做。”该公司正在为其内容输出开发加密水印,这是一种机器可读的秘密标点符号、拼写和词序序列;并且正在磨练一个“分类器”来区分合成文本和人工生成的文本,使用两者的例子来训练它。

阿里云王帅:阿里云从基础设施云化等方面进行全链路数智化转型:金色财经报道,7月3-4日,由POW POWER、星际视界主办,嘉楠区块链、点存科技联合主办的“IPFS生态与分布式存储产业峰会”在杭州西溪喜来登酒店举办。阿里云新零售解决方案架构师王帅在演讲中指出:阿里云坚持自主研发之路、与合作伙伴共生存、坚决不碰客户数据。阿里云从基础设施云化、全触电数字化、业务在线化、运营数据化、决策智能化五个方面进行全链路数智化转型。十年来,阿里云坚持IT基础设施等的优化,提供适用于数百种企业计算场景的实例,可提供为极致数据安全与高可用性设计的产品。[2020/7/4]

斯坦福大学的研究生EricMitchell认为分类器需要大量的训练数据。他与同事一起提出了DetectGPT,这是一种发现差异的“零样本”方法,这意味着该方法不需要事先学习。相反,该方法会自行启动聊天机器人,以嗅探出自己的输出。

韩国就业信息服务社出版最新《韩国职业词典》区块链职业位列其中:5月28日,韩国就业信息服务社宣布出版第五版《韩国职业词典》。词典共列出16891种工作,这一数字于过去八年中增加了5,236种。其中,词典新增区块链、人工智能工程师等创新职业。(韩联社)[2020/5/28]

它是这样工作的:DetectGPT询问聊天机器人它对示例文本的“喜欢”程度,“喜欢”是示例与其自己的创作有多相似的简写。DetectGPT然后更进一步——它“扰乱”了文本,稍微改变了措辞。假设是聊天机器人在“喜欢”更改后的人工生成文本方面比更改后的机器文本更具可变性。研究人员声称,在早期测试中,该方法在95%的时间内正确地区分了人类和机器作者。

需要注意的是:这些结果尚未经过同行评审;该方法虽然优于随机猜测,但在所有生成式AI模型中的工作可靠性并不相同。对合成文本进行人为调整可能会愚弄DetectGPT。

这一切对科学意味着什么?科学出版是研究的命脉,将想法、假设、论据和证据注入全球科学经典。一些人很快就将ChatGPT作为研究助理,一些有争议的论文将AI列为合著者。

Meta甚至推出了一款名为Galactica的科学专用文本生成器。三天后它被撤回了。在它被使用的这段时间,构建了一段熊在太空旅行的虚构历史。

Tübingen的马克斯普朗克智能系统研究所的迈克尔·布莱克教授当时在推特上表示,他对Galactica对有关他自己研究领域的多项询问的回答感到“困扰”,包括将虚假论文归咎于真正的研究人员。“在所有情况下,都是错误的或有偏见的,但听起来是正确和权威的。我认为这很危险。”

危险来自于看似合理的文本滑入真正的科学提交,用虚假引用充斥文献并永远歪曲经典。《科学》杂志现在完全禁止生成文本;《自然》杂志则允许使用它,前提是必须对使用进行了声明,但禁止将其列为共同作者。

话又说回来,大多数人不会查阅高端期刊来指导他们的科学思维。如果狡猾的人如此倾向,这些聊天机器人可以按需喷出大量引用伪科学,解释为什么疫苗不起作用,或者为什么全球变暖是个局。在线发布的误导性材料可能会被未来的生成人工智能吞噬,产生新的谎言迭代,进一步污染公共话语。

贩卖怀疑的商人肯定已经摩拳擦掌,迫不及待了。

中文推特:https://twitter.com/8BTC_OFFICIAL英文推特:https://twitter.com/btcinchinaDiscord社区:https://discord.gg/defidao电报频道:https://t.me/Mute_8btc电报社区:https://t.me/news_8btc

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

金智博客

[0:0ms0-5:213ms