Բնօրինակ թուղթ. Relaxed Softmax. Efficient Confidence Auto-calibration for Safe Biedest Detection

  1. Սեփական կանխատեսումների հուսալիության ճշգրիտ գնահատումը կարևոր է անվտանգության համար կարևոր կիրառությունների համար, բայց DL-ը կարծես թե դա չի ընդունում: Softmax արտադրանքը լավ չի արտացոլում մոդելի վստահությունը: Պատճառ? Հավանաբար, չափից ավելի հարմարեցում և անբավարար տեղադրում: Գուցե նույնիսկ երկուսն էլ միասին.

2. Հանգիստ softmax-ը հիմնականում սովորում է Ջերմաստիճանի սանդղակ (TS) վերապատրաստման ընթացքում՝ որպես հետմշակման քայլ դիտարկելու փոխարեն: Softmax գործողությունը փոփոխվել է ստորև նշված ֆունկցիային: α-ն T-ի այլընտրանքն է TS հաշվարկում և կանխատեսվում է դասի հավանականությունների հետ միասին (z վեկտոր):

3. Ինտուիտիվ կերպով սա հնարավորություն է տալիս ավելի հեշտությամբ մոդելավորել մուտքագրումը «անվստահ» դասում: Բնօրինակ Softmax-ում, որպեսզի մոդելը վստահ չլինի, մոդելը պետք է սովորի դուրս բերել, օրինակ. (.1, .1, .1, …) յուրաքանչյուր դասի համար: Օգտագործելով Relaxed Softmax, դա դառնում է նույնքան հեշտ, որքան համապատասխան փոքր մեկ α արժեքի կանխատեսումը: