Водій проти алгоритму: Безпека автономних систем у фокусі

0 Comments

Дослідник покращує безпеку для автономних систем

Дослідник Університету Вісконсіна в Медісоні працює над створенням теоретичної основи та алгоритмів керування проектом для забезпечення безпеки автономних систем із компонентами машинного навчання.

Огляд автономних технологій

Дослідник Університету Вісконсіна-Медісон намагається створити структуру та алгоритм керування дизайном, щоб зробити автономні системи безпечнішими, використовуючи при цьому компоненти машинного навчання (ML).

Це крок вперед для автономних транспортних засобів, які можуть отримати вигоду від ML, але ускладнюються через складність системи, що ускладнює аналіз їхньої поведінки.

Незважаючи на роки розвитку, справді автономні технології, такі як безпілотні транспортні засоби та безпілотні літальні апарати для доставки, залишаються недосяжними через проблеми безпеки та надійності.

Однак завдяки прогресу в галузі штучного інтелекту (ШІ) нейронні мережі — різновид алгоритму машинного навчання (ML) — стали незамінним компонентом сучасних автономних систем, особливо щодо їх можливостей сприйняття. В автономних транспортних засобах нейронні мережі використовують дані датчиків для картографування навколишнього середовища та розпізнавання таких об’єктів, як дорожні знаки.

Однак ці компоненти ML значно збільшують складність автономної системи, значно ускладнюючи проектування системи та аналіз її поведінки.

Xiangru Xu, доцент кафедри машинобудування в Університеті Вісконсіна-Медісон, використовує свою нагороду Національного наукового фонду CAREER для створення теоретичної основи та алгоритмів керування проектуванням для забезпечення безпеки автономних систем із компонентами машинного навчання. Він зосереджений на критично важливих для безпеки системах, у яких будь-який збій безпеки призведе до поломки продукту або спричинить травмування людини.

«Результати опитувань показують, що американська громадськість дуже скептично ставиться до автономних систем», — сказав Сюй. «Але в майбутньому, якби з’явився безпілотний автомобіль із перевіреними гарантіями продуктивності для безпечної та надійної роботи на наших вулицях, це могло б підвищити довіру громадськості до цієї технології, що є дуже важливим фактором у визначенні ролі автономних систем у нашому майбутньому суспільстві».

Він каже, що є багато фундаментальних проблем у машинному навчанні, які йому потрібно буде враховувати, коли він розробляє алгоритми керування. По-перше, нейронні мережі дуже чутливі, тому існує ризик того, що невелика зміна вхідних даних може призвести до неправильного результату розпізнавання зображення. Наприклад, якщо до знаку «стоп» приклеєна випадкова наклейка, ця невелика зміна може призвести до того, що нейронна мережа сприйме цей знак за щось інше, що потенційно призведе до того, що безпілотний автомобіль повністю його пропустить.

Сюй використовує свій досвід у теорії управління, щоб впоратися з цією проблемою.

«Нейронна мережа — це, по суті, функція, яка зіставляє вхідні дані з вихідними даними, а області керування та оптимізації мають багато принципових методів для аналізу складної динаміки та функцій», — сказав Сюй. «Цей досвід дозволить мені цілісно поглянути на систему, щоб ми могли ефективніше розробляти безпечні траєкторії. Зрештою, я сподіваюся, що зможу дати розуміння того, як розробляти кращі автономні системи».

Сюй також розробляє новий курс на основі активного навчання для студентів UW-Madison, зосереджений на контролі безпеки в робототехніці. Він також допоможе розробити літній семінар, щоб ознайомити старшокласників із робототехнікою та засобами керування. Сюй планує брати участь у інформаційних заходах, таких як Engineering EXPO та Wisconsin Science Festival, щоб допомогти підвищити грамотність громадськості, обізнаність і довіру до технологій безпеки для автономних систем.

«Я вважаю, що важливо інформувати громадськість про автономні технології, такі як автономні транспортні засоби, тому що люди скептично ставляться до речей, які вони не розуміють», — сказав він. «Це не лише технічна проблема, але й проблема соціального сприйняття, тому я радий працювати з громадськістю та допомагати інформувати громадськість».

Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *