在过去的两天,学生团队主修工程或业务来自21个学院和大学提出了解决案件涉及道德,业务和工程难题在人工智能(AI),机器学习(ML)技术和大型数据分析。今年的获奖者是杨百翰大学(杨百翰大学),在决赛后与弗吉尼亚理工大学的竞争。进入半决赛的选手包括布拉斯加-林肯大学,阿拉巴马大学、佛罗里达大学和美国军事学院西点军校。
“这是这样一个神奇的经历,我学到了很多从竞争和客人人与我们分享他们的宝贵的行业知识,“艾莎Hameed说,信息技术专业的学生从乔治梅森大学的竞争对手。“我希望我们的大学继续参与这个神奇的计划。”
比赛还包括实际访问学生学习的机会对洛克希德·马丁公司及其技术。学生被鼓励在学习道德的作用在洛克希德·马丁公司和洛克希德·马丁公司参与讨论工程师如何解决这个情况。学生们还参观了展台展示手册对洛克希德公司的价值观和伦理程序包括学生带回家,dvd视频循环展示现实生活中的道德业务困境,和ethics-related棋盘游戏。
“很少有更重要的事在洛克希德·马丁公司,“说的高级副总裁伦理和企业保证狮子座麦凯,Jr .)“我说没有什么比我们的道德和诚信更重要。”
案例:
介绍
和几个朋友从大学,爱德华多瓜达卢佩开始ResQ inc .)将人工智能(AI)和机器学习(ML)技术支持人道主义救灾。ResQ的愿景是“拯救世界”,一直是一个有吸引力的吸引了年轻工程师加入该公司。
网格,ResQ的第一个产品是一个快速反应能力(独有)系统为救灾搜救(SAR)任务。ResQ市场网格的能力拯救生命的同时大大降低了财务和人员紧张非政府组织(NGO)和政府救济组织。
网格是一种先进的人工智能的核心和ML的软件算法,使用大规模数据分析和态势感知的生活和记录数据定义救援优先级,然后开发实时复杂任务自然灾害救援计划展开。网格使用空中无人机飞越灾难地区收集数据,评估受损区域,确定需要的人,然后开发一个救助策略同时涉及多个平台。网格的开放系统体系结构集成了其客户的土地、空气和海洋资源来执行搜救任务。
网格的基石是能够使用社交媒体,人群采购,政府数据库,收集实时数据收集信息最好的识别和分析影响最大地区来确定优先级最快速、有效和公正的营救任务。网格使用毫升生成一个数据库不断增长的信息从不同的场景和事件来更精确地直接反应。多亏了美国众多成功的试点项目到目前为止,年的数据的系统训练,不断提高自身识别高度准确的模式在不同的救灾情况。
ResQ证明的成功在美国导致了强有力的国际对网格。ResQ欧洲商业开发团队在决赛与三大谈判欧盟(EU)国家,与一个选项全欧盟部署。
与业务现在扩大到其他国家,在创新产业和ML的人工智能的发展,ResQ建立一个伦理委员会来帮助管理新产品的开发。
一个秘密亚太国家(UAP)表达了强烈的兴趣一个完整的网格系统。追求一个潜在的重大合同,ResQ部署一个原型系统的相互了解,如果所有测试成功通过,UAP将购买一个完整的电网系统。
这个问题
UAP合同谈判确定了风险管理出口控制法律和要求修改输入数据参数的能力和数据存储方法的软件定制平台,以其特定的地理位置、自然灾害、国家的需要。UAP凸显ResQ自己国家的社会媒体平台将与网格并行工作,帮助加快SAR数据共享的任务和减轻风险。UAP通知ResQ他们不会敲定合同没有这个能力。
ResQ领导工程团队的挑战。他们找到了一种方法划分客户的专有数据(这是加密ResQ的服务器)的数据集,允许客户定制他们的需求,同时受益于其他ResQ庞大的数据库。此外,ResQ添加一个接口,允许客户修改数据采购实现社交媒体平台。UAP说变化将帮助在数据收集和救助策略发展援助。与这个需求满足,与ResQ UAP进入合同。在国内测试,系统有一个意想不到的偏差在救助策略和优先级。
在最后的测试中,网格不断未能足够的救援资源分配给一组针对特定地理区域的人。调试这个问题,工程团队这一组的位置移动到一个总是包含在救助策略在所有以前的测试,但该组织仍被排除在任务计划。ResQ迅速取消示范试图最小化任何问题,引用,系统有一个小的错误,需要解决。
ResQ工程团队说,真正识别错误是否系统问题或只是一个巧合,他们需要分析数据进入系统。然而,UAP拒绝提供数据。相反,UAP的工程师说,失败只是一个巧合的异常,他们会接受系统。事实上,UAP是如此渴望完全部署他们通知ResQ,任何修改系统测试国内会被拒绝,和UAP认为ResQ违反合同和受到重大处罚。
的响应
业务开发团队工作时通过这些UAP的问题,回到总部ResQ发起了一场内部根本原因分析(RCA)来确定什么导致了意想不到的问题算法。杰克·乔纳斯首席软件工程师,大力提倡反对部署网格,直到倾斜行为已经完全的解决方案。杰克认为原始算法和ML框架开发,测试,证明使用广泛的美国任务收集的数据。结果,系统可以实现一个偏向“西方”的文化和环境导致UAP的偏差行为。
妮可镍币,工程项目经理(EPM),推迟和表示,这个问题不是算法,而是偏置数据进入系统的社会媒体和信息系统,这是故意导致系统不优先考虑个人的救援策略。
莎丽参孙,AI ResQ主题专家(SME),说这个小偏差行为只是因为美国系统广泛的培训使用自下而上的ML方法随着时间的推移,由于数据分区约定合同,系统的初始部署在国外需要时间,直到进行了足够的学习任务和自我纠正。
由于缺少系统输出的数据测试,这三个专家不能最终确定的正式的原因的问题。当他们提出分析ResQ行政领导团队和伦理委员会有强烈支持莎丽的主张基于她多年的经验和个人信誉。他们认为有文化偏见的可能性在系统的算法,称之为一个未经证实的指控对产品。文化偏见将创建一个公关噩梦的话,可能导致接地网格系统,将美国置于如果发生自然灾害的风险。
另外,伦理委员会、合同和法律都驳回了妮可的理论。数据进入系统不是ResQ系统和公司的责任在法律上是符合美国法律法规,满足系统的需求。
ResQ继续并同意UAP的验收标准。莎丽的建议后,ResQ立即部署网格开始教学系统快速正确倾斜行为。
部署后不久,UAP主要飓风袭击,造成重大而广泛的破坏。在24小时内,UAP的新闻服务报道网格完全工作,和伤亡很小。
然而,独立的新闻来源发现许多严重影响nonindigenous人口众多的地区有伤亡率高,尽管网格被部署在这些地区。西方媒体称这是一个失败的救援这些居民由于不公正的偏见。
听到UAP的报告出来,欧洲客户冻结了谈判,要求澄清为什么ResQ将允许网格系统的种族歧视和偏见。这些行为促使欧盟官员接触ResQ警告说,如果网格违反欧盟反歧视法,ResQ可以避免欧盟内部做生意。
爱德华多瓜达卢佩不知道该做什么。他不知道如何推进UAP,以及与欧洲的前景。ResQ伦理委员会一直未能达成共识。
爱德华多接触你的咨询公司提供一个公正的建议。你的团队是负责分析伦理、工程和业务问题。ResQ正在寻求一个明确的前进道路,将继续保持其业务盈利,其值不变。
由于安全需求,您的团队将不会获得电网的专有知识产权审查期间。爱德华多已经要求你任何技术状态假设您在开发你的推荐。