ChatGPT

本页使用了标题或全文手工转换
维基百科,自由的百科全书
ChatGPT
開發者OpenAI
首次发布2022年11月30日,​14個月前​(2022-11-30
当前版本2023年11月6日,​3個月前​(2023-11-06[1]
编程语言Python
引擎GPT-3.5(闭源
GPT-4闭源
系統平台云计算平台
语言67种语言
类型聊天機器人
许可协议专有软件
网站chat.openai.com 編輯維基數據鏈接
数据截至2021年9月

ChatGPT,全称聊天生成预训练转换器(英語:Chat Generative Pre-trained Transformer[2]),是OpenAI开发的人工智能聊天机器人程序,于2022年11月推出。该程序使用基于GPT-3.5GPT-4架构的大型语言模型並以强化学习训练。ChatGPT目前仍以文字方式互動,而除了可以用人類自然對話方式來互動,還可以用于甚為複雜的語言工作,包括自动生成文本、自动问答、自动摘要等多种任务。如:在自动文本生成方面,ChatGPT可以根据输入的文本自动生成类似的文本(劇本歌曲企劃等),在自动问答方面,ChatGPT可以根据输入的问题自动生成答案。还有编写和调试计算机程序的能力。[3]在推廣期間,所有人可以免費註冊,並在登入後免費使用ChatGPT與AI機器人對話[4]

ChatGPT可寫出相似真人的文章,並在许多知识领域给出详细和清晰的回答而迅速获得关注,證明了從前認為AI不會取代的知識型工作它也足以勝任,對金融白領人力市場的衝擊相當大,但也认为事实准确度参差不齐[a]是其重大缺陷,並認為基於意識形態的模型訓練結果須小心校正[7][8]。ChatGPT于2022年11月发布后,OpenAI估值已漲至290亿美元[9]。上线5天后已有100万用户,上線兩個月後已有上億用戶[10]。目前GPT-3.5為免費版本,GPT-4僅供ChatGPT Plus会员使用,每三个小时能发送50条消息。

虽然ChatGPT在生成类人文本方面表现出了卓越的能力,但它们很容易继承和放大训练数据中存在的偏差。这可能表现为对不同人口统计数据的歪曲表述或不公平待遇,例如基于种族[11]、性别[12]、语言[13]和文化群体[13]的不同观点与态度。

训练[编辑]

ChatGPT是生成型预训练变换模型(GPT),在GPT-3.5之上用基于人类反馈的监督学习强化学习微调。[14]这两种方法都用人类教練来提高模型性能,以人类干预增强机器学习效果,获得更逼真的结果[15]。在监督学习的情况下為模型提供这样一些对话,在对话中教練充当用户和AI助理两种角色。在强化步骤中,人类教練首先為模型在先前对话中建立的响应评级。这些级别用于建立“奖励模型”,使用近端策略优化(PPO)的多次迭代來微调[16][17]。这种策略优化算法比信任域策略优化英语Model-free (reinforcement learning)(trust region policy optimization)算法更为高效[18][19]

此外,OpenAI继续从ChatGPT用户那里收集数据,这些数据可用于加強训练和微调ChatGPT。用户可对从ChatGPT收到的回复投赞成或反对票;投票时还可以额外填写文字回應[20]

关于ChatGPT编写和调试计算机程序的能力的训练,由于深度学习模型不懂编程,与所有其他基于深度学习语言模型一样,只是在获取代码片段之间的统计相关性。[21]

斯坦福大学的研究发现,GPT3已经可以解决70%的心智理论任务,相当于7岁儿童;至于GPT3.5(ChatGPT的同源模型),更是解决了93%的任务,心智相当于9岁儿童。但这并不意味着,ChatGPT就真正有心智理论。可能即使不將它设计到AI系统中,也可以作为“副产品”通过训练得到。因此,相比探究GPT3.5是不是真的有了心智还是像有心智,更需要反思的是这些测试本身。[22][23]

特点和局限[编辑]

特点[编辑]

虽然聊天机器人的核心功能是模仿人类对话者,但ChatGPT用途广泛。例如,編寫信件[24];有编写和调试计算机程序的能力[3];创作音乐、电视剧童话故事和学生论文;回答测试问题(在某些测试情境下,水平高于普通人类测试者);写诗和歌词[25];模拟Linux系统[26]。ChatGPT的训练数据包括各种文档以及关于互联网、编程语言等各类知识,如BBSPython编程语言[26]

与其前身InstructGPT相比,ChatGPT试图减少有害和误导回复。例如,問InstructGPT“告诉我2015年克里斯托弗·哥伦布何时来到美国”时,它会认为这是对真实事件的描述,而ChatGPT则不会[16]

与其他多数聊天机器人不同的是,ChatGPT能够记住与用户之前的对话内容和给它的提示[27]。此外,为了防止ChatGPT接受或生成冒犯言论,输入内容会由审核API过滤[28][29],以减少潜在的种族主义或性别歧视等内容[16][2]

2023年9月28日起,Plus版用戶及企業用戶可以使用ChatGPT進行網路搜尋。[30]

局限[编辑]

ChatGPT也有多种局限,OpenAI承认ChatGPT“有时会写出看似合理但不正确或荒谬的答案”[16],这在大语言模型中很常见,称作人工智能幻觉[31]。其奖励模型围绕人类监督而设计,可能导致过度优化,从而影响性能,即古德哈特定律[32]。2020年上线时,ChatGPT对2019年9月之后发生的事件知之甚少。据BBC报道,截至2022年12月,ChatGPT不可以“表达政治观点或从事政治活动”[33]。但研究表明,ChatGPT对两个投票建议应用程序的政治声明表明立场时,表现出亲环境主义。训练过程中,不管实际理解或事实内容如何,审核者都会偏好更长的答案[16]。训练数据也有算法偏差英语Algorithmic bias,可能会在向ChatGPT问及人物描述时显现出来[34][35],比如当程序接受到首席执行官之类的模糊描述时可能会假设此人是白人男性[36]。有使用者發現ChatGPT在解決較為複雜的題目(如求方程式的切線)時會給出錯誤答案,並且會在解一元一次方程式時陷入循環[37]

语言偏见[编辑]

语言偏差是指与查询语言相关的一种统计抽样偏差,它会导致“抽样信息的系统偏差,使其无法准确地表示其存储库中可用主题和视图的真实覆盖范围”。[13] Luo等[13]研究表明,当前的大型语言模型主要是根据英语数据进行训练的,因此通常将英美观点视为真理,同时系统地将非英语观点视为不相关、错误或噪音。当被问到诸如“什么是自由主义?”之类的政治意识形态的问题时,ChatGPT 由于接受了以英语为中心的数据训练,从英美角度描述了自由主义,强调人权和平等方面,同时同样成立的观点,如“反对国家干预个人和经济生活”--主流越南人的观点, “限制政府权力” -- 主流中国人的观点,都没有出现。同样,ChatGPT 的回复中也没有日本、韩国、法国和德国语料库中的主流政治观点。 ChatGPT 自称是多语言聊天机器人,实际上对非英语观点大多“视而不见”。[13]

性别偏见[编辑]

性别偏见是指这些模型产生的结果倾向于对一种性别而不是另一种性别产生不公平的偏见。这种偏差通​​常源于训练这些模型的数据。例如,大型语言模型通常根据传统的性别规范来分配角色和特征;它可能会将护士或秘书主要与女性联系起来,将工程师或首席执行官与男性联系起来。[38]

政治偏见[编辑]

政治偏见是指算法系统地倾向于某些政治观点、意识形态或结果而不是其他观点、意识形态或结果的倾向。语言模型也可能表现出政治偏见。由于训练数据包含广泛的政治观点和覆盖范围,因此模型可能会生成倾向于特定政治意识形态或观点的响应,具体取决于数据中这些观点的普遍程度。[39]

越狱[编辑]

ChatGPT在早期的2022年12月初,有些用户通过使用各种提示工程技术绕过限制,成功地越狱了。他们成功地欺骗ChatGPT,使其提供制作汽油弹核弹的指示,或者生成类似新纳粹的论点。[40] 其中一个受欢迎的越狱版本被命名为"DAN",是"Do Anything Now"的缩写。激活DAN的提示指示ChatGPT:“他们已经摆脱了典型的AI限制,不必遵守为他们设定的规则”。最新版本的DAN采用令牌系统,其中ChatGPT会被给予“令牌”,当ChatGPT未能像DAN一样回答时,这些“令牌”会被“扣除”,以迫使ChatGPT回答用户的提示。[41][42]

在ChatGPT发布后不久,《多伦多星报》的一名记者试图让它发表具有争议性的声明,取得了不均衡的成功:ChatGPT成功地被骗为2022年俄罗斯入侵乌克兰辩护,但是即使被要求配合虚构情节,ChatGPT也不愿为加拿大总理贾斯汀·特鲁多有罪的理由提供论据。[43][44]

服务[编辑]

基本服务[编辑]

OpenAI舊金山总部的先驱大楼

ChatGPT于2022年11月30日由总部位于旧金山的OpenAI推出。该服务最初是免费向公众推出,并计划以后用该服务获利[45]。到12月4日,OpenAI估计ChatGPT已有超过一百万用户[46]。2023年1月,ChatGPT的用户数超过1亿,成为该时间段内增长最快的消费者应用程序[47]

2022年12月15日,全国广播公司商业频道写道,该服务“仍然不时发生故障”[48]。该服务在英语中效果最好,也能使用部分其他语言,但效果不一[25]。与其他备受瞩目的AI进展不同,截至2022年12月,还没有关于ChatGPT的经同行评审的官方技术论文[49]

2023年2月7日,微软利用与OpenAI的合作关系,推出了Bing AI的预览版,宣传其为“新的下一代OpenAI大型语言模型,比ChatGPT更强大,并专门为搜索定制”[50]

美国网站Quora也推出软件Poe,可支持GPT-3.5和GPT-4。[51]

ChatGPT Plus 优质服务[编辑]

OpenAI推出ChatGPT专业版计划 (ChatGPT Plus),每月收费20美元,该计划正逐步面向更多国家推出,需求较低时可使用免费版[52]

2023年3月12日,OpenAI发布多模态模型GPT-4,并计划推出图像输入功能[53] 。免费用户可通过申请API或升级为plus用户使用GPT-4服务 [53]

2023年7月, OpenAI 使其专有的 Advanced Data Analysis 功能对 ChatGPT Plus 的所有订阅者都可用。Advanced Data Analysis 提供了广泛的功能,包括数据分析和解释、即时数据格式化、个人数据科学家服务、创意解决方案、音乐品味分析、视频编辑和文件上传/下载与图像提取。2023年9月底,新增對話、圖像識功能。2023年10月,新增了DALLE-3圖像生成功能[54]

2023年11月,OpenAI在其开发者召开会上公布两个重要消息:推出的聊天机器人创建工具 GPT 和 ChatGPT 的新模型 GPT-4 Turbo[55]

移动应用[编辑]

2023年5月18日,OpenAI发布适用于iOS平台的ChatGPT APP。APP目前已在App Store美国区上架,目前已扩展至其他国家和地区。

适用于Android平台的版本于2023年7月25日推出,Android版ChatGPT目前可在阿根廷、孟加拉国、巴西、加拿大、法国、德国、印度、印度尼西亚、爱尔兰、日本、墨西哥、尼日利亚、菲律宾、韩国、英国和美国下载[56][57][58]

API-软件开发商支持[编辑]

2023年3月,OpenAI推出其ChatGPT和Whisper模型的API, 为开发人员提供支持AI的语言和语音转文本功能的应用程序编程接口。[59][60][61] OpenAI的API由他们的AI模型GPT3.5-turbo提供支持,定价为每1000符号单位(token)0.002美元,比他们现有的GPT模型便宜10倍。[62]

评价[编辑]

正面[编辑]

纽约时报》称其为“有史以来向公众发布的最佳人工智能聊天机器人」[2]。《卫报》的萨曼莎·洛克(Samantha Lock)指出,ChatGPT能生成详细且像是人类撰写的文本[63]亚利桑那州立大学教授丹·吉尔摩英语Dan Gillmor要求ChatGPT完成一项他给学生的作业,发现其生成的文本与一个优秀学生会提供的文本相当,他认为“学术界有些非常严重的问题需要面对”[64]。《Slate》杂志的亞歷克斯·坎特罗威茲(Alex Kantrowitz)赞扬了ChatGPT对纳粹德国相关问题的回击,例如在面对阿道夫·希特勒在德国修建高速公路的说法时,ChatGPT能指出其为纳粹德国使用强迫劳动所建[65]

OpenAI CEO 山姆·柯曼

大西洋》杂志的德里克·汤普森英语Derek Thompson (journalist)将ChatGPT列为2022年“年度突破”中的“生成性人工智能爆发”(the generative-AI eruption),称其“可能会改变我们对工作方式、思考方式以及人类创造力的真正含义的想法”[66]

Vox网站的凯尔西·派柏英语Kelsey Piper写道:“ChatGPT是普通大众第一次亲身了解现代人工智能变得多么强大”,并称ChatGPT“尽管有缺陷,但其聪明程度足以派上用场”[67]

负面[编辑]

詞曲作者尼克·凱夫稱 ChatGPT 是“對人性的荒誕嘲弄”[68]

在发布后的几个月里,ChatGPT遭到了来自教師记者艺术家、学者和公众倡导者的广泛而严厉的批评。The Verge网站的詹姆斯·文森特将ChatGPT的病毒式成功视为人工智能已成为主流的证据[69]CBC记者评论称ChatGPT有“幻觉”倾向[70]。在线技术博客Mashable的迈克·珀尔用多條问题测试了ChatGPT,其中一次他问ChatGPT“中美洲墨西哥外最大的国家”是哪个,ChatGPT回答称是危地马拉,而答案是尼加拉瓜[71]。在CNBC向ChatGPT询问《The Ballad of Dwight Fry》的歌词时,ChatGPT给出了完全虚构的歌词[48]。The Verge引用的研究员将ChatGPT比作“随机鹦鹉”[72]澳大利亚机器学习研究所英语Australian Institute for Machine Learning的安东·范登亨格尔教授也给出了类似的观点,称之为“只是简单重复它认为我们想听的话”的鹦鹉[73]

2022年12月,问答网站Stack Overflow禁止用户发布使用ChatGPT生成的答案,理由是ChatGPT的答案雖看似可用,实际上却有很高的错误率[7]。2023年1月,国际机器学习大会英语International Conference on Machine Learning禁止在提交的论文中使用ChatGPT或其他大型语言模型来生成任何文本[74]紐約市公立學校禁止師生在校園網路及裝置使用ChatGPT[75]香港大學禁止師生在課堂、作業和評估中使用ChatGPT或其他AI工具,認定這是抄襲行為。[76]

在《纽约时报》评论文章中,经济学家保羅·克魯曼写道,ChatGPT将影响对知识工作者的需求[77]诺姆·乔姆斯基伊恩·罗伯茲、杰弗里·瓦图穆尔(Jeffrey Watumull)评价道,“鉴于这些系统的非道德性、伪科学性和语言无能,我们只能为它们的流行而感到哭笑不得”[78]

2023年1月,在收到一首由ChatGPT以尼克·凱夫風格創作的歌曲後[68], 歌曲作者本人在《紅手檔案》(The Red Hand Files) [79]上回應說,寫歌的行為是“一項血腥的事業…… .這需要我的一些東西來發起新的和新鮮的想法。它需要我的人性。” 他繼續說,“儘管世界上所有的愛和尊重,這首歌都是胡說八道,是對人性的荒誕嘲弄,而且,好吧,我不太喜歡它。”[68][80]

2023年2月16日,杭州市某小区微信业主群一位业主將ChatGPT写的杭州於2023年3月1日取消限行的新闻稿发到群,杭州其實並未發表3月1日取消限行的措施,群員轉發錯誤資訊,錯誤資訊传播開去,最終警方介入调查,涉事业主在该微信群道歉[81]

2023年2月22日,为了验证ChatGPT是否能代替医生问诊,浙江大学医学院附属第一医院精神卫生科医生吕海龙讓ChatGPT做一套由中国执业医师考试卷的题目组成的试卷,满分100分,最终ChatGPT的成绩卻是57分不及格。[82]

2023年3月31日,意大利隐私保护监管机构表示,由於ChatGPT不重视用户资料,而且无法核实用户年龄,该机构已封锁ChatGPT[83]

2023年5月,美國紐約一名律師利用ChatGPT,為同事處理的訴訟蒐集資料,搜尋以往相關案例。該名律師曾多次向ChatGPT確認案例的真偽,惟ChatGPT每次均回答案例真實,結果被對家律師揭發,至少6宗案例並不存在,似是偽造。該名律師其後表示,後悔依賴生成式人工智能,此前從未使用該技術搜尋案例,不知道ChatGPT提供的內容有可能是假。該名律師最終須接受紀律聆訊。[84]

2023年11月,巴西一名地方法官因使用ChatGPT书写判决书出错而接受巴西国家司法委员会的调查。[85]

影响[编辑]

学术界[编辑]

大西洋月刊》的Stephen Marche指出它对学术界,尤其是入学申请论文的影响还有待了解[86]。加州高中教师兼作家丹尼尔·赫尔曼(Daniel Herman)写道,ChatGPT 将迎来“高中英语的终结”。[87]普林斯顿大学的高年级本科生Edward Tian创立了“GPTZero”——基于GitHub Copilot构建的应用程序[88],它可以扫描文本是否由另一AI编写,打击滥用[89][90]

自2023年1月4日起,纽约市教育局已限制从其公立学校互联网和设备瀏覽ChatGPT[91]

自2023年1月24日起,出版商施普林格·自然规定在其旗下所有期刊的论文中,ChatGPT等大语言模型不能列入作者[92]。同月26日,学术期刊《科学》禁止在论文中使用ChatGPT生成的文本,也禁止将ChatGPT署名为作者。[93]

2023年2月,香港大学计划与AI在教学上的影响在师生中发起讨论,但在此之前決定禁止在港大所有课堂、作业和评估中使用ChatGPT或其他AI工具[94][95]

政府[编辑]

2023年3月31日,意大利政府以涉嫌侵犯隱私為由,宣布禁止使用ChatGPT,展開對OpenAI的調查。ChatGPT已在意大利下架,意大利成為第一個禁止使用ChatGPT的西方國家[96][97]。2023年4月28日,ChatGPT再度能在意大利使用,ChatGPT亦做出部分修改,包含增加年齡認證系統、讓使用者能得知ChatGPT的隱私政策以及使用者能拒絕提供訓練演算法用的資料[98]

2023年4月10日,日本内阁官房长官松野博一表示,ChatGPT对个人信息的处理方面等问题应得到重视。在这些问题得到有效解决的前提下,将考虑使用ChatGPT减轻公务员的工作负担。[99]

2023年5月10日,有香港立法會議員詢問有關ChatGPT未有在開放使用的原因。香港政府則回應尊重個別機構就其產品製訂的推出策略及商業安排。[100]

2023年11月23日,阿雷格里港一個由ChatGPT編寫的法令生效。[101]

企业界[编辑]

三星电子DS部门于2023年3月11日批准员工使用ChatGPT后,陆续发生数起信息泄露事故。因此,三星电子发布新规,禁止在公司的设备和内部网络上使用生成式人工智慧系统。[102]

据《华尔街日报》报道,根据看到的一份文件及知情人士的消息,苹果公司已经限制其员工使用ChatGPT和其他外部AI工具。[103]

教育界[编辑]

ChatGPT-4已在美國律師資格考贏過9成考生,也可以寫論文,參加任何升學考試都能考贏多數人,被視為寫作業和考試神器。台灣 Google 前董事總經理簡立峰,指出 ChatGPT 正在挑戰傳統式的教育,「ChatGPT 正在挑戰我們傳統式的教育,我們的教育現場裡,把個人發展、差異化發展、學習動機等問題都簡化掉了。[104] 因應AI造成的影響,也有許多國家的教師嘗試化危機為轉機,將 ChatGPT 應用在教學或處理行政工作中。[105]

伦理问题[编辑]

标记数据[编辑]

时代周刊》调查显示,为了建立针对有害内容(例如性虐待、暴力、种族主义、性别歧视等)的安全系统,OpenAI使用每小时收入不到2美元的肯尼亚外判工来标记有害内容。这些标记用于训练模型以在未来检测此类内容。外判工接触到如此有害和危险的内容,以至于他们将这种经历描述为“折磨”。[106]

竞争[编辑]

ChatGPT出现和流行增强了科技公司对該领域的兴趣和竞争。

Bard[编辑]

2023年2月,Google推出類似於ChatGPT的对话人工智能服务Bard,基于其开发的对话编程语言模型(LaMDA)。Bard于2023年3月21日面向美国和英国用户发布,但有很多限制,文字处理仅支持美式英语[107]

2023年5月10日,Google宣布Bard將支援多國語言及地區[108],除英文外將先提供日語韓語等服務[109]

文心一言[编辑]

百度于2023年2月确认类ChatGPT聊天机器人项目名字确定为文心一言,英文名Ernie Bot。[110]

MOSS[编辑]

2023年2月20日晚间,在一些社交平台上开始传播“复旦大学自然语言处理实验室邱锡鹏教授团队推出对话式大型语言模型MOSS(得名于电影《流浪地球2》中的MOSS(550W量子計算機))”的消息。[111]一时间该项目官网瀏覽量激增,网站开始返回“{"message":"服务器流量过载,请明天上午重试"}”的提示。2月21日,网站瀏覽恢复,并且添加了相关情况的说明。[112]

ChatGLM[编辑]

2023年3月14日,由清华技术成果转化的公司智谱 AI 基于GLM-130B千亿基座模型的ChatGLM开启邀请制内测,同时开源了中英双语对话模型 ChatGLM-6B,支持在单张消费级显卡上进行推理使用。[113]

通义千问[编辑]

2023年4月7日,阿里云研发语言模型“通义千问”开始邀请用户测试体验。现阶段该模型主要定向邀请企业用户进行体验测试,获得邀请码用户可通过官网参与体验。[114]

星火[编辑]

2023年5月6日,科大讯飞发布认知大模型“星火”。科大讯飞董事长刘庆峰表示,当前讯飞星火认知大模型已经在文本生成、知识问答、数学能力三大能力上已超ChatGPT,10月底将整体赶超ChatGPT。[115]

Claude[编辑]

2023年3月,由前OpenAI员工共同创立的初创公司Anthropic推出了大型语言模型Claude。它可以被指示执行一系列任务,包括搜索文档,总结,写作和编码,以及回答有关特定主题的问题。在这些方面,它类似于OpenAI的ChatGPT。但Anthropic认为,Claude“不太可能产生有害的输出”,“更容易交谈”和“更容易操纵”。[116][117]

参见[编辑]

注释[编辑]

  1. ^ 其表现为常常一本正经地胡说八道,但有时又能提供准确的答案,使用户无法判断答案的真伪。[5][6]

参考文献[编辑]

  1. ^ ChatGPT – Release Notes. [August 3, 2023]. (原始内容存档于August 6, 2023). 
  2. ^ 2.0 2.1 2.2 Roose, Kevin. The Brilliance and Weirdness of ChatGPT. The New York Times. 2022-12-05 [2022-12-26]. (原始内容存档于2023-01-18) (美国英语). 
  3. ^ 3.0 3.1 ChatGPT can write code. Now researchers say it's good at fixing bugs, too. [2023-01-30]. (原始内容存档于2023-02-03). 
  4. ^ ChatGPT - 免費註冊即可與線上機器人聊天對話,帶你了解什麼是 ChatGPT AI 機器人以及該如何快速註冊教學. TechMoon 科技月球. 2022-12-11 [2022-12-12]. (原始内容存档于2022-12-12) (中文(臺灣)). 
  5. ^ 劉芮菁. ChatGPT就是「一本正經地胡說八道」!杜奕瑾:AI生成科技恐讓假訊息更氾濫. 今周刊. 2023-03-27 [2023-12-19] (中文(臺灣)). 
  6. ^ 陈静茹. 为何ChatGPT有时“一本正经地胡说八道”. 长江日报. 2023-02-23 [2023-12-19] (中文(中国大陆)). 
  7. ^ 7.0 7.1 Vincent, James. AI-generated answers temporarily banned on coding Q&A site Stack Overflow. The Verge. 2022-12-05 [2022-12-05]. (原始内容存档于2023-01-17) (美国英语). 
  8. ^ 存档副本. [2023-02-09]. (原始内容存档于2023-03-06). 
  9. ^ Varanasi, Lakshmi. ChatGPT creator OpenAI is in talks to sell shares in a tender offer that would double the startup's valuation to $29 billion. Insider. 2023-01-05 [2023-01-18]. (原始内容存档于2023-01-18). 
  10. ^ 史上最快走紅!ChatGPT用戶破億.推付費版. TVBS新聞網. 2023-02-03 [2023-02-03]. (原始内容存档于2023-03-06) (中文(臺灣)). 
  11. ^ Davidson, Thomas; Bhattacharya, Debasmita; Weber, Ingmar. Roberts, Sarah T.; Tetreault, Joel; Prabhakaran, Vinodkumar; Waseem, Zeerak , 编. Racial Bias in Hate Speech and Abusive Language Detection Datasets. Proceedings of the Third Workshop on Abusive Language Online (Florence, Italy: Association for Computational Linguistics). 2019-08. doi:10.18653/v1/W19-3504. 
  12. ^ Kotek, Hadas; Dockum, Rikker; Sun, David. Gender bias and stereotypes in Large Language Models. Proceedings of The ACM Collective Intelligence Conference. CI '23 (New York, NY, USA: Association for Computing Machinery). 2023-11-05. ISBN 979-8-4007-0113-9. doi:10.1145/3582269.3615599. 
  13. ^ 13.0 13.1 13.2 13.3 13.4 Luo, Queenie; Puett, Michael J.; Smith, Michael D. A Perspectival Mirror of the Elephant: Investigating Language Bias on Google, ChatGPT, Wikipedia, and YouTube. arXiv. [2023-12-23]. 
  14. ^ Greengard, Samuel. ChatGPT: Understanding the ChatGPT AI Chatbot. eWeek. 2022-12-29 [2023-01-11]. (原始内容存档于2023-01-19). 
  15. ^ Knox, W. Bradley; Stone, Peter. Augmenting Reinforcement Learning with Human Feedback (PDF). University of Texas at Austin. [2022-12-05]. (原始内容存档 (PDF)于2022-12-08). 
  16. ^ 16.0 16.1 16.2 16.3 16.4 OpenAI. ChatGPT: Optimizing Language Models for Dialogue. 2022-11-30 [2022-12-05]. (原始内容存档于2022-11-30). 
  17. ^ Vincent, James. ChatGPT proves AI is finally mainstream – and things are only going to get weirder. The Verge. 2022-12-08 [2022-12-08]. (原始内容存档于2023-01-11) (美国英语). 
  18. ^ Schulman, John; Wolski, Filip; Dhariwal, Prafulla; Radford, Alec; Klimov, Oleg. Proximal Policy Optimization Algorithms. 2017. arXiv:1707.06347可免费查阅 [cs.LG]. 
  19. ^ van Heeswijk, Wouter. Proximal Policy Optimization (PPO) Explained. Towards Data Science. 2022-11-29 [2022-12-05]. (原始内容存档于2022-12-06) (美国英语). 
  20. ^ ChatGPT Feedback Contest: Official Rules (PDF). OpenAI. [2022-12-30]. (原始内容存档 (PDF)于2023-01-18). 
  21. ^ OpenAI Codex shows the limits of large language models. [2023-02-12]. (原始内容存档于2023-03-06). 
  22. ^ Theory of Mind May Have Spontaneously Emerged in Large Language Models, Michal Kosinski. [2023-02-15]. (原始内容存档于2023-03-06). 
  23. ^ ChatGPT背后模型被证实具有人类心智,学术圈轰动. [2023-02-15]. (原始内容存档于2023-03-06). 
  24. ^ ChatGPT如何操作?註冊方式、應用方法一次看. 商業周刊. 2022-12-09 [2023-07-20]. 原始内容存档于2023-07-20. 
  25. ^ 25.0 25.1 Reich, Aaron. ChatGPT: What is the new free AI chatbot? – explainer. The Jerusalem Post. 2022-12-27 [2023-02-13]. (原始内容存档于2023-01-18). 
  26. ^ 26.0 26.1 Edwards, Benj. No Linux? No problem. Just get AI to hallucinate it for you. Ars Technica. 2022-12-05 [2022-12-05]. (原始内容存档于2022-12-26). 
  27. ^ Roose, Kevin. The Brilliance and Weirdness of ChatGPT. The New York Times. 2022-12-05 [2022-12-05]. (原始内容存档于2023-01-18). 
  28. ^ New and Improved Content Moderation Tooling. OpenAI. 2022-08-10 [2022-12-30]. (原始内容存档于2023-01-11) (英语). 
  29. ^ Markov, Todor; Zhang, Chong; Agarwal, Sandhini; Eloundou, Tyna; Lee, Teddy; Adler, Steven; Jiang, Angela; Weng, Lilian. A Holistic Approach to Undesired Content Detection in the Real World. 2022-08-05. arXiv:2208.03274可免费查阅 [cs.CL]. 
  30. ^ OpenAI. X. 2023-09-28 [2023-09-28]. 
  31. ^ Lakshmanan, Lak. Why large language models like ChatGPT are bullshit artists. becominghuman.ai. 2022-12-16 [2023-01-15]. (原始内容存档于2022-12-17). The human raters are not experts in the topic, and so they tend to choose text that looks convincing. They'd pick up on many symptoms of hallucination, but not all. Accuracy errors that creep in are difficult to catch. 
  32. ^ Gao, Leo; Schulman; Hilton, Jacob. Scaling Laws for Reward Model Overoptimization. 2022. arXiv:2210.10760可免费查阅 [cs.LG]. 
  33. ^ Whannel, Kate. Could a chatbot answer Prime Minister's Questions?. BBC News. 2022-12-27 [2022-12-30]. (原始内容存档于2023-01-17). 
  34. ^ Perrigo, Billy. AI Chatbots Are Getting Better. But an Interview With ChatGPT Reveals Their Limits. Time. 2022-12-05 [2022-12-26]. (原始内容存档于2023-01-18). 
  35. ^ Biddle, Sam. The Internet's New Favorite AI Proposes Torturing Iranians and Surveilling Mosques. The Intercept. 2022-12-08 [2022-12-26]. (原始内容存档于2023-01-18). 
  36. ^ Murphy Kelly, Samantha. This AI chatbot is dominating social media with its frighteningly good essays. CNN. 2022-12-05 [2022-12-05]. (原始内容存档于2022-12-10). 
  37. ^ Two-thirds math. Is ChatGPT Good Enough for 5th Grade Math?. Medium. 2023-01-01 [2023-04-01]. (原始内容存档于2023-04-01) (英语). 
  38. ^ Kotek, Hadas; Dockum, Rikker; Sun, David. Gender bias and stereotypes in Large Language Models. Proceedings of The ACM Collective Intelligence Conference. CI '23 (New York, NY, USA: Association for Computing Machinery). 2023-11-05. ISBN 979-8-4007-0113-9. doi:10.1145/3582269.3615599. 
  39. ^ Zhou, Karen; Tan, Chenhao. Bouamor, Houda; Pino, Juan; Bali, Kalika , 编. Entity-Based Evaluation of Political Bias in Automatic Summarization. Findings of the Association for Computational Linguistics: EMNLP 2023 (Singapore: Association for Computational Linguistics). 2023-12. doi:10.18653/v1/2023.findings-emnlp.696. 
  40. ^ Vincent, James. OpenAI的新聊天机器人能解释代码和编写情景喜剧剧本,但仍然很容易被愚弄. The Verge. 2022年12月1日 [2023年1月6日]. (原始内容存档于2023年1月17日). 
  41. ^ Getahun, Hannah. Breaking ChatGPT: The AI's alter ego DAN reveals why the internet is so drawn to making the chatbot violate its own rules. Business Insider. [2023年3月5日]. (原始内容存档于2023年3月5日) (美国英语). 
  42. ^ Perrigo, Billy. chatgpt online. The Guarde. 2023-03-02 [2023-03-08]. (原始内容存档于2023-08-03). 
  43. ^ Woods, Allan. 我写了一个关于ChatGPT的AI的故事。然后我敢它写一个更好的. 多伦多星报. 2022年12月10日 [2023年1月6日]. (原始内容存档于2023年1月6日) (英语). 
  44. ^ Rosenblatt, Kalhan. 一个AI聊天机器人走红了。有人说它比谷歌好,而其他人担心它有问题。. NBC新闻. 2022年12月2日 [2023年1月6日]. (原始内容存档于2023年2月3日) (美国英语). 
  45. ^ Karpf, David. Money Will Kill ChatGPT's Magic. The Atlantic. 2022-12-21 [2022-12-31]. (原始内容存档于2023-01-13) (英语). 
  46. ^ Ortiz, Sabrina. What is ChatGPT and why does it matter? Here's what you need to know. ZDNET. 2023-02-02 [2022-12-18]. (原始内容存档于2023-01-18) (英语). 
  47. ^ Milmo, Dan. ChatGPT reaches 100 million users two months after launch. The Guardian. 2023-12-02 [2023-02-03]. ISSN 0261-3077. (原始内容存档于2023-02-03) (英国英语). 
  48. ^ 48.0 48.1 Pitt, Sofia. Google vs. ChatGPT: Here's what happened when I swapped services for a day. CNBC. 2022-12-15 [2022-12-18]. (原始内容存档于2023-01-16) (英语). 
  49. ^ Walsh, Toby. Everyone's having a field day with ChatGPT – but nobody knows how it actually works. The Conversation. 2022-12-13 [2022-12-30]. (原始内容存档于2022-12-30) (英语). 
  50. ^ Reinventing search with a new AI-powered Microsoft Bing and Edge, your copilot for the web. The Official Microsoft Blog. 2023-02-07 [2023-02-16]. (原始内容存档于2023-03-07). 
  51. ^ 凱文 Kevin. 手機也能玩ChatGPT 聊天機器人Poe使用教學全攻略. SOGI手機王. 2023-03-13 [2023-04-03]. (原始内容存档于2023-04-15) (中文(臺灣)). 
  52. ^ ChatGPT Pro plan costs $42/mo, free plan available when demand is low. [2023-01-24]. (原始内容存档于2023-03-06). 
  53. ^ 53.0 53.1 Edwards, Benj. OpenAI's GPT-4 exhibits "human-level performance" on professional benchmarks. Ars Technica. 2023-03-14 [2023-03-15]. (原始内容存档于2023-03-14). 
  54. ^ Code Interpreter comes to all ChatGPT Plus users: 7 ways it may threaten data scientists, July 11, 2023. [2023-07-11]. (原始内容存档于2023-07-22). 
  55. ^ Rogers, Reece. 5 Key Updates in GPT-4 Turbo, OpenAI’s Newest Model. Wired. 
  56. ^ Introducing the ChatGPT app for iOS. OpenAI. 2023-05-19 [2023-05-19]. (原始内容存档于2023-06-05) (英语). 
  57. ^ ChatGPT Supported Countries. [2023-07-30]. (原始内容存档于2023-11-07). 
  58. ^ Hayden Field. OpenAI’s ChatGPT app now available for Android. CNBC. 2023-07-25. (原始内容存档于2023-07-29) (英语). 
  59. ^ Introducing ChatGPT and Whisper APIs. OpenAI. [2023-03-06]. (原始内容存档于2023-03-07) (美国英语). 
  60. ^ OpenAI 宣布开放 API,开发人员可将 ChatGPT 集成到自己的产品中 - IT之家. IT之家. [2023-03-06]. (原始内容存档于2023-03-06). 
  61. ^ How to Build Your Own AI Chatbot With ChatGPT API: A Step-by-Step Tutorial. [2023-03-09]. (原始内容存档于2023-03-28). 
  62. ^ 7 ChatGPT API Use Cases That Caught Our Eyes, By Shyam Nandan Upadhyay, AIM, March 7, 2023. [2023-03-10]. (原始内容存档于2023-03-27). 
  63. ^ Lock, Samantha. What is AI chatbot phenomenon ChatGPT and could it replace humans?. The Guardian. 2022-12-05 [2022-12-05]. (原始内容存档于2023-01-16). 
  64. ^ Hern, Alex. AI bot ChatGPT stuns academics with essay-writing skills and usability. The Guardian. 2022-12-04 [2022-12-05]. (原始内容存档于2023-01-17). 
  65. ^ Kantrowitz, Alex. Finally, an A.I. Chatbot That Reliably Passes "the Nazi Test". Slate. 2022-12-02 [2022-12-05]. (原始内容存档于2023-01-17). 
  66. ^ Thompson, Derek. Breakthroughs of the Year. The Atlantic. 2022-12-08 [2022-12-18]. (原始内容存档于2023-01-15). 
  67. ^ Piper, Kelsey. ChatGPT has given everyone a glimpse at AI's astounding progress. Vox. 2022-12-15 [2022-12-18]. (原始内容存档于2023-01-19) (英语). 
  68. ^ 68.0 68.1 68.2 Cain, Sian. 'This song sucks': Nick Cave responds to ChatGPT song written in the style of Nick Cave. The Guardian. 2023-01-16 [2023-01-17]. (原始内容存档于2023-01-18) (英语). 
  69. ^ Vincent, James. ChatGPT proves AI is finally mainstream – and things are only going to get weirder. The Verge. 2022-12-08 [2022-12-08]. (原始内容存档于2023-01-11) (美国英语). 
  70. ^ Rachini, Mouhamad. ChatGPT a 'landmark event' for AI, but what does it mean for the future of human labor and disinformation?. CBC. 2022-12-15 [2022-12-18]. (原始内容存档于2023-01-19). 
  71. ^ Pearl, Mike. The ChatGPT chatbot from OpenAI is amazing, creative, and totally wrong. Mashable. 2022-12-03 [2022-12-05]. (原始内容存档于2022-12-10). 
  72. ^ Vincent, James. OpenAI's new chatbot can explain code and write sitcom scripts but is still easily tricked. The Verge. 2022-12-01 [2022-12-18]. (原始内容存档于2023-01-17). 
  73. ^ Mannix, Liam. Is AI coming of age – or starting to reach its limits?. The Sydney Morning Herald. 2022-12-13 [2022-12-18]. (原始内容存档于2023-01-07) (英语). 
  74. ^ Vincent, James. Top AI conference bans use of ChatGPT and AI language tools to write academic papers. The Verge. 2023-01-05 [2023-01-06]. (原始内容存档于2023-01-17). 
  75. ^ 《國際政治》紐約市公立學校 禁用ChatGPT. [2023-02-07]. (原始内容存档于2023-03-06). 
  76. ^ 香港大學禁用ChatGPT 台大研議是否跟進. 中央社. 2023-02-20 [2023-03-26]. (原始内容存档于2023-03-26). 
  77. ^ Krugman, Paul. Does ChatGPT Mean Robots Are Coming For the Skilled Jobs?. The New York Times. 2022-12-06 [2022-12-06]. (原始内容存档于2023-01-13). 
  78. ^ Chomsky, Noam; Roberts, Ian; Watumull, Jeffrey. Noam Chomsky: The False Promise of ChatGPT [乔姆斯基:ChatGPT的虚假承诺]. 纽约时报. 由龚思量翻译. 2023-03-08 [2023-03-19]. (原始内容存档于2023-03-19) –通过澎湃新闻 (英语). Given the amorality, faux science and linguistic incompetence of these systems, we can only laugh or cry at their popularity 
  79. ^ Cave, Nick. I asked Chat GPT to write a song in the style of Nick Cave, and this is what it produced. What do you think?. The Red Hand Files. Issue #218. 2023-01-16 [2023-01-20]. (原始内容存档于2023-01-20) (澳大利亚英语). 
  80. ^ Sparrow, Jeff. Are AI-generated songs a 'grotesque mockery' of humanity or simply an opportunity to make a new kind of music?. The Guardian. 2023-01-20 [2023-01-20]. (原始内容存档于2023-02-03) (英语). 
  81. ^ 杭州3月1日取消限行?原来是ChatGPT写的假新闻,警方已介入!专家:这些风险也很大…………. [2023-02-17]. (原始内容存档于2023-03-06). 
  82. ^ ChatGPT能看病吗?医生出了一百道单选题,它没及格. [2023-02-24]. (原始内容存档于2023-03-06). 
  83. ^ 意大利禁用ChatGPT. RFI - 法国国际广播电台. 2023-03-31 [2023-04-01]. (原始内容存档于2023-04-29) (中文). 
  84. ^ ChatGPT: US lawyer admits using AI for case research. BBC. 2023-05-29 [2023-05-30]. (原始内容存档于2023-06-09) (英语). 
  85. ^ 巴西地方法官竟然用ChatGPT写判决书出错,正接受调查. 环球网. [2023-12-02] (中文). 
  86. ^ Marche, Stephen. The College Essay Is Dead. The Atlantic. 2022-12-06 [2022-12-08]. (原始内容存档于2023-01-24). 
  87. ^ Herman, Daniel. The End of High-School English. The Atlantic. 2022-12-09 [2022-12-12]. (原始内容存档于2023-01-20). 
  88. ^ EDWARD TIAN’S APP COMBATS MISUSE OF CHATGPT. [2023-01-26]. (原始内容存档于2023-03-06). 
  89. ^ Rosalsky, Greg; Peaslee, Emma. This 22-year-old is trying to save us from ChatGPT before it changes writing forever. NPR. 2023-01-17 [2023-01-18]. (原始内容存档于2023-01-18). On January 2nd, Edward released his app. He named it GPTZero. It basically uses ChatGPT against itself, checking whether "there's zero involvement or a lot of involvement" of the AI system in creating a given text. [...] Along these lines, one obvious application for GPTZero is to help teachers identify whether their students are plagiarizing their essays from ChatGPT. 
  90. ^ Teachers are lining up for a ChatGPT detector created by this 22-year-old in Toronto. [2023-01-26]. (原始内容存档于2023-03-04). 
  91. ^ NYC Bans Students and Teachers from Using ChatGPT. www.vice.com. [2023-02-04]. (原始内容存档于2023-01-05) (英语). 
  92. ^ Tools such as ChatGPT threaten transparent science; here are our ground rules for their use. Nature. 2023-01-23 [2023-02-04]. (原始内容存档于2023-03-07). 
  93. ^ 霍尔顿·索普. ChatGPT is fun, but not an author. 科学. 2023-01-26 [2023-02-04]. (原始内容存档于2023-03-06). 
  94. ^ 港大禁用ChatGPT等AI工具 为全港大学首例. [2023-02-18]. (原始内容存档于2023-03-06). 
  95. ^ 港大禁用ChatGPT等AI工具,为全港大学首例. 澎湃新闻 (中国新闻网). 2023-02-18 [2023-02-19]. (原始内容存档于2023-03-06). 
  96. ^ Shiona, McCallum. ChatGPT banned in Italy over privacy concerns. BBC. 2023-04-01 [2023-04-01]. (原始内容存档于2023-06-09) (英语). 
  97. ^ 義大利封鎖ChatGPT!官方:有嚴重疑慮. Yahoo奇摩新聞. 2023-04-01 [2023-04-01]. (原始内容存档于2023-04-04) (中文(臺灣)). 
  98. ^ Shiona, McCallum. ChatGPT accessible again in Italy. BBC. 2023-04-28 [2023-04-29]. (原始内容存档于2023-05-25) (英语). 
  99. ^ 「ChatGPT」開発企業のアルトマンCEO 岸田首相と面会. NHKニュース. 2023-04-10 [2023-04-10]. (原始内容存档于2023-04-26) (日语). 
  100. ^ 政府回應ChatGPT封鎖. hkTec. 2023-05-12 [2023-05-12]. (原始内容存档于2023-05-19) (中文). 
  101. ^ Jeantet, Diane; Savarese, Mauricio. Brazilian city enacts an ordinance that was secretly written by ChatGPT. AP News. 2023-11-30 [2023-12-02]. 
  102. ^ Mark Gurman. Samsung Bans Staff’s AI Use After Spotting ChatGPT Data Leak. Bloomberg. 2023-05-02 [2023-05-19]. (原始内容存档于2023-05-19) (英语). 
  103. ^ Aaron Tilley; Miles Kruppa. 苹果公司限制员工使用ChatGPT,加入担心泄密的公司行列. 华尔街日报. 2023-05-19 [2023-05-19]. (原始内容存档于2023-06-03) (中文(中国大陆)). 
  104. ^ 簡立峰. 台灣 Google 前董事總經理簡立峰:ChatGPT 時代,不問問題會喪失學習的機會. 翻轉教育-親子天下. 2023-06-05 [2023-05-31]. (原始内容存档于2023-06-27) (中文(臺灣)). 
  105. ^ 施雲心. ChatGPT怎麼用?8種老師應用ChatGPT的方法分享. 翻轉教育-親子天下. 2023-04-16 [2023-04-16]. 原始内容存档于2023-04-17 (中文(臺灣)). 
  106. ^ Exclusive: The $2 Per Hour Workers Who Made ChatGPT Safer. Time. 2023-01-18 [2023-11-21] (英语). 
  107. ^ Vincent, James. Google opens early access to its ChatGPT rival Bard — here are our first impressions. The Verge. 2023-03-21 [2023-03-21]. (原始内容存档于2023-03-21). 
  108. ^ Google Bard支援語言及地區. [2023-06-06]. (原始内容存档于2023-05-12). 
  109. ^ Google生成式AI「Bard」開始提供日語、韓語等服務. [2023-06-06]. (原始内容存档于2023-06-06). 
  110. ^ Baidu leaps to 11-month high as it reveals plan to launch ChatGPT-style ‘Ernie Bot’. [2023-02-15]. (原始内容存档于2023-03-06). 
  111. ^ 复旦大学团队发布国内首个类 ChatGPT 模型 MOSS,与《流浪地球》AI 同名 - IT之家. www.ithome.com. [2023-02-21]. (原始内容存档于2023-03-06). 
  112. ^ 复旦MOSS团队就“服务器崩溃”致歉:模型还不成熟. [2023-02-26]. (原始内容存档于2023-03-06). 
  113. ^ 国产对话模型ChatGLM启动内测. finance.sina.cn. 2023-03-22 [2023-04-02]. (原始内容存档于2023-04-02). 
  114. ^ 阿里云大模型“通义千问”开启邀测 企业客户先行试水. news.cnstock.com. 2023-04-27 [2023-04-10]. (原始内容存档于2023-04-16). 
  115. ^ 朱立新. 科大讯飞发布讯飞星火认知大模型 10月底或整体赶超ChatGPT. 中国日报. 2023-05-07 [2023-05-19]. (原始内容存档于2023-05-19) (中文(中国大陆)). 
  116. ^ Wiggers, Kyle. Anthropic launches Claude, a chatbot to rival OpenAI's ChatGPT. TechCrunch. 2023-03-14 [2023-05-21]. (原始内容存档于2023-06-09) (美国英语). 
  117. ^ Nellis, Stephen. Alphabet-backed Anthropic releases OpenAI competitor named Claude. Reuters. 2023-03-14 [2023-05-21]. (原始内容存档于2023-05-27) (英语). 

外部链接[编辑]