Водитель против алгоритма: Безопасность автономных систем в фокусе

0 комментариев

Исследователь улучшает безопасность для автономных систем

Исследователь Университета Висконсина в Мэдисоне работает над созданием теоретической основы и алгоритмов управления проектом для обеспечения безопасности автономных систем с компонентами машинного обучения.

Обзор автономных технологий

Исследователь Университета Висконсина-Мэдисон пытается создать структуру и алгоритм управления дизайном, чтобы сделать автономные системы более безопасными, используя при этом компоненты машинного обучения (ML).

Это шаг вперед для автономных транспортных средств, которые могут извлечь выгоду из ML, но усложняются из-за сложности системы, что усложняет анализ их поведения.

Несмотря на годы развития, действительно автономные технологии, такие как беспилотные транспортные средства и беспилотные летательные аппараты для доставки, остаются недостижимыми из-за проблем безопасности и надежности.

Однако благодаря прогрессу в области искусственного интеллекта (ШИ) нейронные сети – разновидность алгоритма машинного обучения (ML) – стали незаменимым компонентом современных автономных систем, особенно в отношении их возможностей восприятия. В автономных транспортных средствах нейронные сети используют данные датчиков картографирования окружающей среды и распознавания таких объектов, как дорожные знаки.

Однако эти компоненты ML значительно увеличивают сложность автономной системы, значительно усложняя проектирование системы и анализ поведения.

Xiangru Xu, доцент кафедры машиностроения в Висконсинском Университете-Мэдисон, использует свою награду Национального научного фонда CAREER для создания теоретической основы и алгоритмов управления проектированием для обеспечения безопасности автономных систем с компонентами машинного обучения. Он сосредоточен на критически важных для безопасности системах, в которых любой сбой безопасности приведет к поломке продукта или приведет к травмам человека.

«Результаты опросов показывают, что американская общественность очень скептически относится к автономным системам», — сказал Сюй. Но в будущем, если бы появился беспилотный автомобиль с проверенными гарантиями производительности для безопасной и надежной работы на наших улицах, это могло бы повысить доверие общественности к этой технологии, что является очень важным фактором в определении роли автономных систем в нашем будущем обществе.

Он говорит, что существует много фундаментальных проблем в машинном обучении, которые ему нужно будет учитывать, когда он разрабатывает алгоритмы управления. Во-первых, нейронные сети очень чувствительны, поэтому риск того, что небольшое изменение входных данных может привести к неправильному результату распознавания изображения. К примеру, если к знаку «стоп» приклеена случайная наклейка, это небольшое изменение может привести к тому, что нейронная сеть воспримет этот знак за что-то другое, что потенциально приведет к тому, что беспилотный автомобиль полностью его пропустит.

Сюй использует свой опыт в теории управления, чтобы справиться с этой проблемой.

«Нейронная сеть — это, по сути, функция, которая сопоставляет входящие данные с исходными данными, а области управления и оптимизации имеют много принципиальных методов для анализа сложной динамики и функций», — сказал Сюй. «Этот опыт позволит мне целостно взглянуть на систему, чтобы мы могли более эффективно разрабатывать безопасные траектории. Наконец, я надеюсь, что смогу дать понимание того, как разрабатывать лучшие автономные системы».

Сюй также разрабатывает новый курс на основе активного обучения для студентов UW-Madison, сосредоточенный на контроле безопасности в робототехнике. Он также поможет разработать летний семинар, чтобы ознакомить старшеклассников по робототехнике и средствам управления. Сюй планирует участвовать в информационных мероприятиях, таких как Engineering EXPO и Wisconsin Science Festival, чтобы помочь повысить грамотность общественности, осведомленность и доверие к технологиям безопасности для автономных систем.

«Я считаю, что важно информировать общественность об автономных технологиях, таких как автономные транспортные средства, потому что люди скептически относятся к вещам, которые они не понимают», — сказал он. «Это не только техническая проблема, но и проблема социального восприятия, поэтому я рад работать с общественностью и помогать информировать общественность».

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *