One of the challenges with machine learning is explainability.
Одной из проблем, связанных с машинным обучением, является объяснимость.
So explainability has been an issue for a while.
This can help us achieve better performance and explainability of models, which in turn could encourage more widespread adoption.
Это может помочь нам достичь лучшей производительности и объяснимости моделей, что, в свою очередь, может способствовать более широкому внедрению.
And, yes, this kind of "dictionary compression"-like scheme is useful in bringing a first level of explainability.
Да, эта, похожая на «словарное сжатие» схема, полезна для выхода на первый уровень объяснимости.
"We would also like to work on the system's explainability and compatibility with existing autonomous vehicles, providing an explanation to the end user of how the network perceives its environment and why it takes its decisions," Wirbel added.
«Мы также хотели бы поработать над объяснимостью и совместимостью системы с существующими автономными транспортными средствами, предоставляя конечному пользователю объяснение того, как сеть воспринимает свою среду и почему она принимает свои решения», - добавил Вирбель.
The other big ethical concern relates to the transparency and "explainability" of AI-driven models.
Другая большая этическая проблема связана с прозрачностью и «объяснимостью» моделей, управляемых ИИ.
If it is clear with unpredictability and consequences, then a retrospective explainability is worth disclosing.
Если с непредсказуемостью и последствиями ясно, то ретроспективную объяснимость стоит раскрыть.
As artificial intelligence gets more widely used, the problem gets worse, with predictability and explainability seemingly evaporating.
По мере все более широкого использования искусственного интеллекта проблема усугубляется, а предсказуемость и объяснимость, по-видимому, испаряются.
When the financial industry plugs a bunch of data into a model in order to make an investment decision, how important is the explainability of the result?
Когда финансовая отрасль подключает к модели кучу данных для принятия инвестиционного решения, насколько важна объяснимость результата?
But to some extent, explainability was already an issue well before we started using machine learning, because even traditional models of investing were hampered by some of these same issues.
Но в какой-то степени объяснимость уже была проблемой задолго до того, как мы начали использовать машинное обучение, потому что даже на традиционных моделях инвестирования висели некоторые из этих же проблем.
A requirement of explainability of algorithmic decision-making can change incentives, prevent blackboxing, help make business decisions more transparent, and allow the public sector to catch up with the private sector in technology development.
Требование объяснимости алгоритмического принятия решений может изменить стимулы, предотвратить использование блэкбоксинга, помочь сделать бизнес-решения более прозрачными и позволить государственному сектору догнать частный сектор в развитии технологий.
AI ethics and explainability are top of the agenda for many industry groups and regulators around the world given its vulnerability to support unscrupulous business practices like those mentioned earlier and authoritarian governments.
Этичность и объяснимость ИИ являются главными задачами многих отраслевых групп и регламентирующих структур по всему миру, учитывая его беззащитность перед недобросовестными методами ведения работы, вроде упомянутых ранее, и авторитарными правительствами.
But you only ever have the vaguest of ideas why these systems are working, and as robots and AI become a more prominent part of our society, explainability will be a critical factor in allowing us to comfortably trust them.
Но у вас есть только самые смутные идеи, почему эти системы работают, и, поскольку роботы и ИИ становятся все более заметной частью нашего общества, объяснимость станет критическим фактором, позволяющим нам с уверенностью доверять им.