Key­sight Tech­no­lo­gies a Cen­t­rum pro za­jiš­tě­ní au­to­no­mie (CfAA) při Uni­ver­zi­tě v Yorku (Velká Bri­tá­nie) ozná­mi­ly za­há­je­ní vý­zkum­né spo­lu­prá­ce za­mě­ře­né na pod­po­ru bez­peč­né­ho za­vá­dě­ní umělé in­te­li­gen­ce (AI) do soft­wa­ro­vě de­fi­no­va­ných vo­zi­del (SDV). Spo­lu­prá­ce se za­mě­ří na vývoj prak­tic­kých metod pro ově­řo­vá­ní sys­té­mů umělé in­te­li­gen­ce a zís­ká­vá­ní dů­ka­zů po­třeb­ných k pro­ká­zá­ní je­jich bez­peč­nos­ti a spo­leh­li­vos­ti.

Cílem této práce je umož­nit vý­rob­cům au­to­mo­bi­lů a do­da­va­te­lům spl­nit nové po­ža­dav­ky od­vět­ví a zá­ro­veň sní­žit ri­zi­ka spo­je­ná s vý­vo­jem a urych­lit za­vá­dě­ní au­to­mo­bi­lo­vých sys­té­mů vy­u­ží­va­jí­cích AI.

Umělá in­te­li­gen­ce se rych­le stává klí­čo­vou tech­no­lo­gií v mo­der­ních asi­s­tenč­ních sys­té­mech pro ři­di­če (ADAS), funk­cích au­to­ma­ti­zo­va­né­ho ří­ze­ní a vo­zi­dlech s soft­wa­ro­vě de­fi­no­va­ný­mi vo­zi­dly (SDV). S tím, jak se tyto funk­ce stá­va­jí stále so­fis­ti­ko­va­něj­ší­mi, čelí au­to­mo­bi­lo­vé spo­leč­nos­ti ros­tou­cí­mu tlaku, aby pro­ká­za­ly, že sys­témy umělé in­te­li­gen­ce fun­gu­jí bez­peč­ně, spo­leh­li­vě a podle zá­mě­ru, a to nejen během vý­vo­je, ale po celou dobu ži­vot­ní­ho cyklu vo­zi­dla. Po­skyt­nu­tí to­ho­to dů­ka­zu před­sta­vu­je jednu z nej­vý­znam­něj­ších výzev v tomto od­vět­ví, je­li­kož au­to­mo­bil­ky usi­lu­jí o uvá­dě­ní stále in­te­li­gent­něj­ších vo­zi­del na trh a zá­ro­veň se snaží spl­nit mě­ní­cí se re­gu­lač­ní a bez­peč­nost­ní po­ža­dav­ky.

Key­si­ght a CfAA spo­leč­ně po­mo­hou pře­kle­nout pro­past mezi vý­zku­mem bez­peč­nos­ti umělé in­te­li­gen­ce a prak­tic­kým in­že­nýr­stvím tím, že budou roz­ví­jet me­to­di­ky pro struk­tu­ro­va­né bez­peč­nost­ní ana­lý­zy umělé in­te­li­gen­ce a bu­do­vat opod­stat­ně­nou dů­vě­ru v bez­peč­nost au­to­mo­bi­lo­vých sys­té­mů vy­u­ží­va­jí­cích umě­lou in­te­li­gen­ci.

Vý­zkum se za­mě­ří na vy­tvo­ře­ní pří­stu­pů za­lo­že­ných na dů­ka­zech, které pod­po­ří im­ple­men­ta­ci po­ža­dav­ků normy ISO/PAS 8800, na pro­zkou­má­ní me­to­dik mě­ři­tel­né­ho hod­no­ce­ní bez­peč­nos­ti vy­chá­ze­jí­cích z aka­de­mic­ké­ho vý­zku­mu a prů­mys­lo­vých stan­dar­dů a na vy­tvo­ře­ní prak­tic­kých rámců pro ge­ne­ro­vá­ní au­di­to­va­tel­ných dů­ka­zů o bez­peč­nos­ti umělé in­te­li­gen­ce. Vý­sled­né me­to­di­ky mají za cíl pod­po­řit pro­ces se­sta­vo­vá­ní bez­peč­nost­ních ana­lýz umělé in­te­li­gen­ce, zvý­šit dů­vě­ru ve va­li­da­ci umělé in­te­li­gen­ce a po­mo­ci in­že­nýr­ským týmům efek­tiv­ně­ji pro­ká­zat odů­vod­ně­nou bez­peč­nost umělé in­te­li­gen­ce v prů­bě­hu ce­lé­ho ži­vot­ní­ho cyklu pro­duk­tu.

Uni­ver­zi­ta v Yorku je me­zi­ná­rod­ně uzná­va­ná pro svůj vý­zkum v ob­las­ti bez­peč­nost­ní­ho in­že­nýr­ství a za­jiš­tě­ní bez­peč­nos­ti kom­plex­ních sys­té­mů na­příč růz­ný­mi obory, včet­ně do­pra­vy a au­to­mo­bi­lo­vé­ho prů­mys­lu. Spo­je­ním aka­de­mic­ké od­bor­nos­ti uni­ver­zi­ty s tech­ni­ka­mi va­li­da­ce umělé in­te­li­gen­ce Key­si­ght se tato spo­lu­prá­ce snaží po­su­nout vpřed me­to­di­ky po­u­ži­tel­né pro vývoj umělé in­te­li­gen­ce v au­to­mo­bi­lo­vém prů­mys­lu.

Oče­ká­vá se, že vý­sled­ky to­ho­to vý­zku­mu budou pod­kla­dem pro bu­dou­cí vývoj ná­stro­je AI Soft­ware In­te­gri­ty Bu­il­der od Key­si­gh­tu a umož­ní lepší pod­po­ru bez­peč­nost­ních ar­gu­men­tů v ob­las­ti umělé in­te­li­gen­ce, ge­ne­ro­vá­ní bez­peč­nost­ních dů­ka­zů a va­li­dač­ních čin­nos­tí v sou­la­du s oče­ká­vá­ní­mi au­to­mo­bi­lo­vé­ho prů­mys­lu.

Další in­for­ma­ce na­jde­te na webu keysight.com.