ChatGPT用于自闭症领域？我们有不少期待，却也有更多担心

导读

2022年11月，一款以聊天机器人为平台的人工智能新技术 ChatGPT横空出世，短短两三个月时间，活跃用户超过一亿。用《经济学人》杂志的话来说，ChatGPT像风暴一样，席卷全球「1」，用户们用它查询信息、生成文本，并折服于其强大的对话能力和知识储备。

ChatGPT是一种人工智能技术「2」，通过预训练，理解并生成像人类一样的语言，并且进行智能的对话。含有1750亿个信息参数的大型语言模型，使得ChatGPT能够快速地对用户的问题做出反应，提供信息。ChatGPT的出现引发了各行业的热议，坊间不断谈论这项技术给自己领域可能带来的变革，有哪些工种可能会消失，又会出现哪些新产品，像曾经的搜索引擎、智能手机一样，颠覆人们的生活。

在自闭症干预、支持领域，关于ChatGPT的讨论也已经火热的展开。我们看到，这项强大的工具在帮助自闭症人士自我学习社交技巧方面，未来值得期待。然而，在目前阶段，将ChatGPT作为求医问药、决定干预手段的工具，则并不可取。

小丫丫北美创作团队为此展开讨论，我们一致认为，ChatGPT（AI）目前在自闭症领域，我们有不少期待，却也有更多担心。

小丫丫北美AI创作团队：涂芮：前记者，现传媒学博士在读；宇：工程学博士，AI从业人员；望望同学：神经生物学博士，科研人员；Prof. Wang：Computational Neuroscience 博士，大学教授；次级消费者：昆虫行为学博士；丫丫爸爸：化学博士，研发科学家。

ChatGPT帮助自闭症人士社交？有希望！

自闭症是一种广泛性发育障碍，核心症状主要是社交交流障碍和重复刻板的行为和思维方式。很多自闭症人士，哪怕有很强的语言交流能力，也不善于人与人之间的交流。

ChatGPT这种智能式的交流方式，既满足了自闭症人士交流的需要，又让他们不用直接参与人与人之间的交流。同时 ，ChatGPT强大的计算功能，很容易就给出一些问题的答案，帮助自闭症人士应对社交难题。比如在社交场合中某个特定的情景，自闭症人士不知道如何处理时，可以很快地用ChatGPT得到答案。

在ChatGPT火爆之后，一位自闭症人士在美国论坛网站Reddit发帖，分享自己使用ChatGPT的心得「3」。

“（ChatGPT）像是在我手机里装了一个NT大脑（神经典型Neurotypical）”这位自闭症人士称，他可以向ChatGPT询问不同社交场景下的适当交流建议。并且还可以反复缠着这个聊天机器人一直聊自己特别兴趣的话题，“几个小时它都不会觉得无聊”。

“在公司厕所里看见老板了， 怎么和他打招呼”？

我们也好奇地向ChatGPT提了一个不仅是自闭症人士、很多人都会觉得很难解决的社交问题，竟然获得了非常中肯的建议。

因此，这也许是ChatGPT用于自闭症人士干预和支持的一个不错的方向，未来这样的AI技术也许可以用针对自闭症人士的特殊需要进行开发，更切合这个群体的需求。

让ChatGPT帮写IEP？要警惕！

然而，ChatGPT毕竟是一个新生事物，在充满希望的同时，我们还是希望自闭症社区保持清醒的头脑。我们发现，这个聊天机器人在提供自闭症干预和支持方面，提供的建议并不那么聪明，甚至可能有害。

作为写作助手让AI生成文本，是ChatGPT的一个火热的应用领域。输入一些基本信息，让AI完成作业，书写报告，甚至撰写论文。

2023年1月23日，《自然》杂志报道「4」，有4篇预发表的科研论文，将ChatGPT作为共同作者。

ChatGPT是否应该作为共同作者，有很多的争议，《科学》杂志甚至明确规定，ChatGPT不能作为论文的共同作者「5」。虽然AI不能生成科研数据，但是，支持者认为，在进行文献综述时，AI可以节省很多读杂志和综述的时间，有很大的优势。而反对者则认为，使用AI容易造成抄袭，或者错误，特别是ChatGPT如果搜索到的文献是错误的，那么在AI的应用上会造成错误。

不管支持还是反对，有一点共识是，AI生成了一个综述，使用者如果不去钻研，就不一定明白综述的内容和其中的技术。

这种一知半解，在自闭症儿童的教育领域尤其容易造成不良后果。比如特教老师给孩子们制作的个人教育计划（IEP），使用ChatGPT，很容易就可以批量写出，看起来很“可靠”：目标、实施方法和评估方法，样样俱全。

但是，如果家长对自闭症孩子的教育不甚了解，很容易被这样批量生产的IEP欺骗——所谓个人教育计划，是根据不同孩子的教育需求而制定。ChatGPT并不了解孩子，只能是在网上的现有资料中拼拼凑凑，制定出来的IEP格式整齐、用词规范，但可能完全不能应对孩子的真正需求。

更加令人担心的是，正如大学生们用AI写作业作弊一样，一些完全不懂特教的人，也能借力人工智能，装作“干预专家”。

我们虚构了一个“5岁无语言自闭症男孩”，让ChatGPT撰写一份IEP，一分钟之后，一份格式整齐、充满“专业”词汇的的文档生成，听起来头头是道。这和目前自闭症社区流行的一些据说很神奇的疗法，什么“动态智力”、“重新建立亲子关系”一样，没有科学依据，也没有真正的可操作性。

用ChatGPT找治疗建议？不靠谱！

另一项具有巨大前景、同时争议不断的应用， 则是ChatGPT的信息查找能力。在信息搜索上，不管是传统的搜索引擎还是ChatGPT，都是基于庞大的网络资源。不同的是，传统的搜索引擎，根据关键词查找，给出一系列网络资源，使用者进行甄别，找到自己需要的信息。

而ChatGPT能够根据句子进行查找，更符合人类查找信息的习惯。同时，ChatGPT将得到的海量数据进行分析，直接给出答案，使用者不必再花时间进行甄别。但是从目前来说，ChatGPT自我甄别真伪的能力可能比较弱。就像网上有人盛传，ChatGPT给出林黛玉倒拔垂杨柳一样的无厘头答案。

自闭症被诊断以来80年的历史中，曾有过许多科学界探讨过、但已经被证伪的各种假说，还有不少早已被驳斥、但依然很有市场的歪理邪说和阴谋论。目前，科学界公认的循证方法，是以应用行为分析（ABA）为基础的方法对自闭症人士进行教育和干预。然而，各种“神奇疗法”的信息，在漫无边际的互联网上也一直在传播。

传统的搜索，引擎（比如谷歌）至少能给出正反两方面的搜索结果，然后进行人工甄别——只要有足够的批判性思维，还是可以判断的。而ChatGPT给出的信息，并没有经过专业角度的辨识。

我们尝试问ChatGPT一个小丫丫此前曾发文分析过的Son-Rise，一个不靠谱的干预方法有何优势，机器人罗列出来四大优势，而并没有提及任何自闭症专业媒体已经质疑过的问题。

相关阅读：Son-Rise：治愈自闭症的神奇方法还是远古的忽悠传说？

而我们在用“阴谋论”的方式提问时，ChatGPT也顺着“ABA有什么害处”这个问题，罗列出来了ABA的几大完全没有根据、或是故意夸大的“罪状”。

相关阅读：当反ABA成为了时髦，家长怎么办？

因此，完全相信AI给出的答案是不可行的。正如图灵奖获得者Yann LeCun在自己的领英朋友圈指出的，目前的大语言模型容易捏造似是而非的信息「6」。连开发ChatGPT的OpenAI公司的总裁，Sam Altman在去年12月份的一个推特中也指出，当前，对于关键的问题，完全依靠AI是错误的。

当然，我们也看到，在很多问题上，ChatGPT大部分还是比较靠谱的。我们尝试搜索了一些自闭症领域没有科学证据，甚至危险的，却不断有人声称能治愈自闭症的方法，ChatGPT都给出了比较中肯的信息。

但是，在某些领域，相关资源比较有限的时候，ChatGPT给出的信息，就很令人迷惑。ChatGPT能够产生这些语言，是需要样本进行训练的，目前ChatGPT训练语言中，高质量的中文数据库还是很不足，因此可能会更放大AI本身的不足。

我们编造了一个名为“一无所有”的疗法，问其效果怎样，ChatGPT同样一本正经地回答。

在另一个问题中，我们让ChatGPT根据文献总结自闭症的生物学基础时，出现了张冠李戴，甚至造假的现象。

上图中的两个文献，第一个子虚乌有，而第二个与自闭症完全没有关系。为什么ChatGPT会这样的回答呢？我们猜想，也许某篇质量很差的中文论文的引文是这么写的，ChatGPT只是照搬？

让人担心的是，ChatGPT未来也许将成为一个新型的获取信息的方式，一旦其取代了搜索引擎、网络百科等，我们的信息环境会是什么样？

OpenAI网站的信息表明将开放API（注：目前开源是的GPT3。而火爆的ChatGPT 是基于 GPT3.5），鼓励大家进行二次开发，发展出一些基于ChatGPT技术的新的APP「7」。这当然方便使用，但是可能也会带来很多虚假信息。就像传统搜索引擎使用广告竞价排名一样，链接一个不准确，甚至错误的广告信息，将更有欺骗性。

更有甚者，ChatGPT反馈给用户的信息是可以人工修改的。据美国时代周刊报道，早在2021年，OPENAI公司为了避免ChatGPT给出的答案犯错误，就在肯尼亚等国家，人工将一些网络不文明用语进行标记「8」。当然，OPENAI人为控制ChatGPT的回答，是出于避免不文明信息的传播。这种标记训练是在后端进行，但是如果开放API之后，不能排除有些组织专门用来生产虚假信息来误导公众。曾经在搜索引擎上，输入自闭症，前10个信息，有9个很可能是欺骗性广告。我们很难否定，这一幕在基于ChatGPT的技术，会不会重演。

后记

据财新传媒报道「9」，2016年4月12日，21岁的西安大学生魏则西因滑膜肉瘤去世。在其生前求医过程中，被北京一家医院宣传的不实疗法所骗，花费不赀却未收获任何效果，贻误合理治疗时机。而他之所以能找到这么一家虚假宣传的医院，搜索引擎通过竞价排名的方式，根据广告客户出价高低，其相关链接高居搜索榜首位。魏同学相信了该搜索平台的信息，上当受骗，耽误了救治。

同样，在政策法规不完善、资本盲目逐利的情况下，竞价搜索带来的问题也有可能会在其他新技术上重现。

ChatGPT会是神奇的社交助手吗？还是会将千万个自闭症家庭引向无良逐利的医疗骗子？我们对这一技术在自闭症的应用上，有期待， 也有担心。

参考文献：

1.https://www.economist.com/podcasts/2022/12/27/how-the-tech-behind-chatgpt-could-change-the-world-an-updated-episode-from-our-archive

2.https://sipodsoftware.com/the-future-of-chat-gpt/

3.https://www.reddit.com/r/autism/comments/10wv1rl/chatgpt_as_a_tool_for_autistics/ 

4.https://www.nature.com/articles/d41586-023-00107-z

5.https://www.science.org/doi/10.1126/science.adg7879

6.https://www.linkedin.com/feed/update/urn:li:activity:7030921081876029443/

7.https://openai.com/api/ 

8.https://time.com/6247678/openai-chatgpt-kenya-workers/ 

9.https://special.caixin.com/event_0412/index.html