格拉斯哥大学的研究人员将在Responsible AI UK (RAi UK) 1200万英镑的新资金支持下的项目中发挥主导作用。.
格拉斯哥的计算机科学家参与了RAi UK在洛杉矶CogX大会上宣布的三个新项目中的两个.
这些项目将着眼于解决目前正在整个社会中构建和部署的生成式和其他形式的人工智能的新问题.
Simone Stumpf博士将领导3英镑.5m 参与式危害审计工作台和方法 (PHAWM)项目. 与此同时, Muffy Calder教授和Michele Sevegnani博士将在PROBabLE Futures -执法未来的概率人工智能系统中发挥关键作用, a £3.由诺森比亚大学领导的500万英镑的项目.
RAi英国由南安普顿大学领导，并得到英国研究与创新(UKRI)的支持。, 通过UKRI技术任务基金和EPSRC. UKRI还承诺额外提供400万英镑资金，以进一步支持这些举措.
phham项目汇集了来自英国7所顶尖大学和23个合作组织的25名研究人员, 包括博天堂入口技术贸易组织, ScotlandIS.
格拉斯哥大学将领导该联盟, 在爱丁堡大学同事的支持下, 谢菲尔德, 斯特灵, 斯特拉思克莱德, 约克和伦敦国王学院.
在一起, 他们将开发新的方法，以最大限度地发挥预测性和生成性人工智能的潜在好处，同时最大限度地减少偏见和“幻觉”带来的潜在危害。, 人工智能工具将虚假或虚构的信息视为事实.
该项目将开创参与式人工智能审计, 包括监管机构在内的非专家在哪里, 最终用户和可能受到人工智能系统决策影响的人将在确保这些系统提供公平可靠的输出方面发挥作用.
该项目将开发新的工具，与相关利益相关者合作支持审计过程, 重点关注预测和生成人工智能的四个关键用例, 并创建新的培训资源，以帮助鼓励广泛采用这些工具.
研究中的预测性人工智能用例将集中在健康和媒体内容上, 分析预测医院再入院和评估儿童依恋潜在偏差的数据集, 并检查搜索引擎的公平性和社交媒体上的仇恨言论检测.
在生成式AI用例中, 该项目将着眼于文化遗产和协作内容生成. 它将探索人工智能的潜力，以加深对历史材料的理解，而不会误解或偏见, 以及如何使用人工智能以代表性不足的语言编写准确的维基百科文章，而不会助长错误信息的传播.
Simone Stumpf博士, 格拉斯哥大学计算机科学学院的教授, 该项目的主要研究者是谁. 她说:“人工智能是一个快速发展的领域, 由于发展往往面临着超过决策者确保以最小化危害风险的方式使用技术的能力的风险. 世界各地的监管机构正在努力确保在利用人工智能对社会的潜在变革性好处与对其产出的最有效监督之间取得平衡.
“审核人工智能的输出可以成为一个强大的工具，帮助开发更强大、更可靠的系统, 但到目前为止，审计的应用并不均衡，而且主要由专家掌握. phham项目将把审计权交给那些最了解这些人工智能系统在四个领域运行的潜在影响的人. 这将有助于为最终用户带来更公平、更有力的结果，并有助于确保人工智能技术履行其监管义务.
根据项目的结论, 我们将开发一个强大的培训计划和一条通往人工智能解决方案认证的途径, 以及一个功能齐全的工具工作台，使没有人工智能背景的人也能参与审计, 做出明智的决定, 塑造下一代人工智能.”
£3.400万可能的期货项目, 由诺森比亚大学的马里恩·奥斯瓦尔德教授领导, 汇集了格拉斯哥大学的研究人员, 北安普顿, 莱斯特, 剑桥和阿伯丁大学有许多执法人员, 商业技术, 第三部门和学术合作伙伴.
该项目将重点关注将人工智能用于执法的不确定性. 奥斯瓦尔德教授表示，人工智能可以帮助警方和法院解决数字数据过载的问题, 未知的风险, 提高运营效率.
她补充说:“关键问题是，人工智能工具从执法系统的一个部分获取输入，但它们的输出具有现实世界, 可能改变人生, 另一方面的影响——司法不公只是时间问题.
“我们的项目与执法部门和合作伙伴一起开发一个框架，了解不确定性的影响，并建立对未来概率人工智能的信心, 以正义和责任为核心.”
Muffy Calder教授和Michele Sevegnani博士, 计算机科学学院, 将领导大学对PROBabLE Futures的贡献. 去年, 考尔德教授与人合著了艾伦图灵研究所的一份报告，该报告研究了如何在使用人工智能时平衡国家安全需求和个人人权.
Dame Muffy教授也是该大学科学学院的院长 & 他说:“我很高兴能成为possible Futures的一员. 这个项目很好地帮助确保人工智能能够有效和合乎道德地融入执法基础设施，以帮助我们所有人保持安全.
“去年, 大学成立了数据科学和人工智能中心，将我们广泛的研究成果结合在一起, 跨人工智能和机器学习理论与应用的多学科研究基地.
“RAi英国的这两个重要研究项目将有助于加强大学与其他领先机构的联系, 以及进一步确立英国在道德人工智能领域的领导者地位.”
英国负责任人工智能公司(RAi UK)提供了资金，并成为其3100万英镑计划的支柱，该计划将持续四年. RAi UK由英国研究与创新(UKRI)支持。, 通过UKRI技术任务基金和EPSRC.
自去年启动以来，RAi UK已经提供了1300万英镑的研究资金. 它正在制定自己的研究计划，以支持人工智能安全研究所等重大举措的持续工作, 阿兰·图灵研究所, BRAID UK.
RAi UK由UKRI支持, 研究和创新的最大公共资助者, 这是政府将英国打造成未来人工智能发展强国计划的一部分.
戈帕尔·拉姆辛教授, 英国负责任Ai (RAi UK)首席执行官, 他说:“这些项目是负责任的人工智能英国计划的基石，之所以被选中，是因为它们解决了人工智能快速发展带来的社会面临的最紧迫挑战.
“这些项目将提供跨学科研究，旨在解决复杂的社会技术挑战，这些挑战已经存在或正在使用生成式人工智能和其他形式的人工智能部署在现实世界中.
“对人工智能的担忧不仅仅是政府和行业需要解决的问题——人工智能专家与研究人员和政策制定者的接触非常重要，以确保我们能够更好地预测人工智能将引起的问题。.”