博客随着软件在企业中的角色不断增加，开发人员所做决策的伦理含义只会变得更加深刻。在大问题中，我们概述了开发团队面临的最大问题，并研究了公司是如何应对这些问题的。在我们日益数字化的世界里，软件几乎在我们所做的每件事中都扮演着重要的角色。它是我们全球劳动力合作的支柱，支撑着我们的大部分工业运营，甚至确保了我们城市的顺利运行。这些关键软件系统的故障，无论是故意的还是意外的，都可能导致破坏性的，甚至是致命的后果。不幸的是，这些失败太常见了。似乎每周我们都会在新闻中听到另一个侵犯隐私、违反安全或滥用技术的消息。考虑到所有这些，软件开发人员意识到他们的道德责任从来没有像现在这样重要。建设更安全的未来这些信息意味着公司的数据和基础设施是其最大的资产和弱点。Mandiant在其2020年的"M-Trends报告"中称，针对公司的攻击中有22%是因为IP盗窃或企业间谍活动，而高达29%的攻击是为了直接的经济利益。有趣的是，报告中只有4%的攻击是为了削弱目标的系统，以备以后再次攻击。这一点值得了解，因为报告中31%遭受过一次攻击的客户在接下来的12个月内看到了另一次攻击！随着物联网的不断发展，物联网只会使企业遭受攻击的可能性更大，应对的难度也更大；据预测，仅今年一年就有超过200亿台新设备接入互联网。恶意软件的创造者已经准备好并等待着渗透到支撑这些设备的软件中。这种日益严重的威胁是开发商不能忽视的。Thomas Holt说："当今软件开发人员面临的最大道德挑战是如何保护信息，以减少共享环境中外部威胁（如黑客）造成知识产权损失的风险，同时又不影响最终用户的易用性。"，密歇根州立大学刑事司法学院教授，其研究重点是计算机黑客和恶意软件"如果加密或安全变得太麻烦，员工将不太可能使用它们或创建解决方案，因此必须考虑如何在分布式和网络环境中保护易受攻击的信息。"由计算机械协会（ACM）制定的道德规范指出，计算机专业人员应"设计和实现可靠且安全的系统"。他们应通过整合缓解技术和政策来做到这一点，如监控、修补和漏洞报告。同样重要的是，开发人员应采取措施确保受数据泄露影响的各方得到及时和明确的通知。考虑产品团队行动的影响的灵感可以来自任何来源："作为一名技术领域的安全专业人士，我很高兴看到许多现代工程师受到机器人三定律的发明者艾萨克·阿西莫夫的影响，"Sisense首席安全和信托官Ty Sbano说第一条规则是"机器人不得伤害人类，也不得因不作为而让人类受到伤害"。尽管"伤害"这个词可能很严重，但如果你退一步，产品团队在道德行为方面的要求仍然是一样的：在隐私和道德方面，或者您的创作可能对用户和世界产生的任何其他影响，您确实需要仔细考虑这些问题。""在机器像人类一样学习和向人类学习的地方，无意识偏见和人类一样是一种威胁。"用户验收测试和其他最佳实践可以帮助开发人员避免实施过于混乱、不恰当或禁止合法使用的安全预防措施。ACM明确表示，在这方面不应该有任何妥协：在误用或伤害是可预见或不可避免的情况下，它表示最好的选择可能是不实施该系统。给你的客户（和其他人）隐私软件开发人员经常被要求创建能够收集、监视和交换个人信息的解决方案。我们日益全球化的劳动力通过跨越多个国家和领土边界的大量数字技术进行合作。雇主可以使用这些技术中的许多来监控员工，但在什么情况下，这被视为侵犯隐私？软件开发人员在他们的解决方案中集成这种监视能力有多远？"尊重隐私"在ACM的道德规范中占据了很高的位置，该规范规定软件开发人员只应将个人信息用于"正当目的，且不得侵犯个人和团体的权利"。这意味着要采取预防措施，防止匿名数据的重新识别或未经授权的数据收集，确保数据的准确性，了解数据的来源，防止未经授权的访问和意外泄露。未经当事人同意，为特定目的收集的个人信息不得用于其他目的。克服算法偏差以提供更好的产品算法偏差描述了计算机系统中产生不公平结果的系统性和可重复性错误。由于机器学习技术从根本上改变了软件的制作方式，这种危险比以往任何时候都要严重Baker-Enzie教授说，他们在柏林的一家高级法律公司向Baker-Enzie公司提供大量的数据编码指令，而不是向他们的高级律师事务所提供大量的解决方案在机器像人类一样学习和向人类学习的地方，无意识偏见和人类一样是一种威胁。"ACM的道德准则规定"公平并采取行动不歧视"。它说，技术和实践应尽可能具有包容性和可访问性，软件开发人员应采取行动避免创造剥夺或压迫人民权利的系统或技术。未能设计包容性和可及性可能构成不公平歧视。Determann认为，成功需要开发人员将禁令编码到算法中他说："我们不能依赖机器自己学习禁止和不禁止的内容。"我们需要尽最大努力避免复制无意识的人类偏见，方法是训练数据不足的机器（例如过时的历史书籍）、监督团队（例如缺乏多样性）和程序（例如，在已知数据集不完整的机器上未标记）。我们必须制定对策来降低人工智能中复制人类无意识偏见的风险。多元化的团队以及不断的验证和提问应该是解决方案的一部分。"三思而后行软件开发人员是防止滥用技术的第一道防线，也是最后一道防线。我们当前的软件文化时代可能被Facebook创始人马克·扎克伯格（Mark Zuckerberg）现在著名的座右铭"快速移动并打破事物"，但这不再是用户希望从他们的软件中得到什么。然而，在软件公司内部，开发人员仍然会面临压力，要求他们迅速将软件推向市场，这使得他们很容易跳过严格的测试。"软件开发人员经常迷恋技术本身——它能做什么以及我们如何应用它，"弗吉尼亚州詹姆斯·麦迪逊大学计算机科学系副教授、ACM职业道德委员会教育协调员迈克尔·S·柯克帕特里克说。Kirkpatrick认为，开发者有责任就如何使用他们的技术提出更多问题。"通常情况下，开发人员被赋予一项任务来开发一段代码，而没有关于它可能使用的上下文的信息。这需要改变。开发人员需要更加主动地发现代码将如何被使用，并预测它可能会被误用。他们还应该质疑，可以制定哪些政策和程序来防止滥用。"Kirkpatrick认为，多学科的开发团队对这里的成功至关重要。"软件开发人员往往对技术的关注范围很窄，因此，他们与伦理学家、人类学家、社会学家以及其他人合作非常重要，他们对如何使用一项技术以及如何防止滥用持不同的观点。"发展一个更美好的世界很明显，很多责任都落在软件开发人员的手中。ACM的道德准则是帮助软件工程师履行其伦理义务的有用框架，但它并不能提供解决伦理问题的解决方案，而是作为伦理决策的基础。归根结底，软件开发人员要负责任地采取行动，花时间考虑他们工作的更广泛影响，他们的工作应该始终支持公益事业。柯克帕特里克总结道："技术可以增强力量。"政府、大公司和其他行动者可以利用它来扩大他们在我们生活的各个方面的影响力。毫不夸张地说，毫无疑问地采用技术对人类基本自由和公民权利构成了威胁。因此，对于软件开发人员来说，倾听不同的声音，提出更多的问题，更积极地思考如何使用他们的软件，更重要的是，软件可能被误用，这一点非常重要。"Lindsay James是一名记者和作家，拥有20多年为包括微软（Microsoft）、达索系统（Dassault Systemes）、Exasol和BAA在内的世界最大品牌制作引人注目的复制品的经验。她的作品曾出现在Record（微软合作伙伴社区杂志）、Compass和IT Pro上。标签：