Десять лучших конфигураций
|
№ |
Первая функция активации |
Вторая функция активации |
Точность распознавания |
|
|
1 |
ELU |
SELU |
0,98225 |
|
|
2 |
SoftPlus |
SoftSign |
0,981125 |
|
|
3 |
ELU |
ELU |
0,981 |
|
|
4 |
SoftPlus |
Sigmoid |
0,97925 |
|
|
5 |
SELU |
Sigmoid |
0,977875 |
|
|
6 |
SELU |
SELU |
0,97725 |
|
|
7 |
ELU |
SoftSign |
0,9755 |
|
|
8 |
ELU |
Sigmoid |
0,974875 |
|
|
9 |
ReLU |
SoftSign |
0,974875 |
|
|
10 |
ReLU |
SELU |
0,9745 |
С шумом {-0.1, 0.1}
|
№ |
Первая функция активации |
Вторая функция активации |
Точность распознавания |
|
|
1 |
ELU |
SELU |
0,97775 |
|
|
2 |
SoftPlus |
SoftSign |
0,965625 |
|
|
3 |
ELU |
ELU |
0,961375 |
|
|
4 |
SoftPlus |
Sigmoid |
0,978375 |
|
|
5 |
SELU |
Sigmoid |
0,98175 |
|
|
6 |
SELU |
SELU |
0,97825 |
|
|
7 |
ELU |
SoftSign |
0,968625 |
|
|
8 |
ELU |
Sigmoid |
0,983125 |
|
|
9 |
ReLU |
SoftSign |
0,949875 |
|
|
10 |
ReLU |
SELU |
0,974375 |
С шумом {-0.25, 0.25}
|
№ |
Первая функция активации |
Вторая функция активации |
Точность распознавания |
|
|
1 |
ELU |
SELU |
0,971 |
|
|
2 |
SoftPlus |
SoftSign |
0,969625 |
|
|
3 |
ELU |
ELU |
0,96175 |
|
|
4 |
SoftPlus |
Sigmoid |
0,977625 |
|
|
5 |
SELU |
Sigmoid |
0,9795 |
|
|
6 |
SELU |
SELU |
0,97075 |
|
|
7 |
ELU |
SoftSign |
0,968 |
|
|
8 |
ELU |
Sigmoid |
0,982125 |
|
|
9 |
ReLU |
SoftSign |
0,940625 |
|
|
10 |
ReLU |
SELU |
0,9685 |
С шумом {-0.5, 0.5}
|
№ |
Первая функция активации |
Вторая функция активации |
Точность распознавания |
|
|
1 |
ELU |
SELU |
0,975 |
|
|
2 |
SoftPlus |
SoftSign |
0,973 |
|
|
3 |
ELU |
ELU |
0,965125 |
|
|
4 |
SoftPlus |
Sigmoid |
0,976875 |
|
|
5 |
SELU |
Sigmoid |
0,976 |
|
|
6 |
SELU |
SELU |
0,968875 |
|
|
7 |
ELU |
SoftSign |
0,96825 |
|
|
8 |
ELU |
Sigmoid |
0,981625 |
|
|
9 |
ReLU |
SoftSign |
0,956375 |
|
|
10 |
ReLU |
SELU |
0,972625 |
С шумом {-1, 1}
|
№ |
Первая функция активации |
Вторая функция активации |
Точность распознавания |
|
|
1 |
ELU |
SELU |
0,97425 |
|
|
2 |
SoftPlus |
SoftSign |
0,95975 |
|
|
3 |
ELU |
ELU |
0,955375 |
|
|
4 |
SoftPlus |
Sigmoid |
0,966875 |
|
|
5 |
SELU |
Sigmoid |
0,9765 |
|
|
6 |
SELU |
SELU |
0,968 |
|
|
7 |
ELU |
SoftSign |
0,96375 |
|
|
8 |
ELU |
Sigmoid |
0,980625 |
|
|
9 |
ReLU |
SoftSign |
0,9295 |
|
|
10 |
ReLU |
SELU |
0,964875 |
Итог
Западения точности распознавания не происходит и при максимальном уровне шума. Как и в случае с PSK, лучший результат при максимальном уровне шума показала конфигурация ELU/Sigmoid с 98% точности распознавания.
APSK, M=2^n
Без шума
|
№ |
Первая функция активации |
Вторая функция активации |
Точность распознавания |
|
|
1 |
ReLU |
ReLU |
0,627875 |
|
|
2 |
ReLU |
ELU |
0,712875 |
|
|
3 |
ReLU |
SELU |
0,73525 |
|
|
4 |
ReLU |
SoftSign |
0,704125 |
|
|
5 |
ReLU |
SoftPlus |
0,712875 |
|
|
6 |
ReLU |
HardTanh |
0,6605 |
|
|
7 |
ReLU |
HardSigmoid |
0,625125 |
|
|
8 |
ReLU |
Sigmoid |
0,74075 |
|
|
9 |
ELU |
ReLU |
0,696875 |
|
|
10 |
ELU |
ELU |
0,750625 |
|
|
11 |
ELU |
SELU |
0,777375 |
|
|
12 |
ELU |
SoftSign |
0,783875 |
|
|
13 |
ELU |
SoftPlus |
0,75175 |
|
|
14 |
ELU |
HardTanh |
0,737625 |
|
|
15 |
ELU |
HardSigmoid |
0,7595 |
|
|
16 |
ELU |
Sigmoid |
0,80375 |
|
|
17 |
SELU |
ReLU |
0,723375 |
|
|
18 |
SELU |
ELU |
0,783875 |
|
|
19 |
SELU |
SELU |
0,766375 |
|
|
20 |
SELU |
SoftSign |
0,776375 |
|
|
21 |
SELU |
SoftPlus |
0,76875 |
|
|
22 |
SELU |
HardTanh |
0,71375 |
|
|
23 |
SELU |
HardSigmoid |
0,74275 |
|
|
24 |
SELU |
Sigmoid |
0,8065 |
|
|
25 |
SoftSign |
ReLU |
0,536375 |
|
|
26 |
SoftSign |
ELU |
0,538625 |
|
|
27 |
SoftSign |
SELU |
0,52475 |
|
|
28 |
SoftSign |
SoftSign |
0,516625 |
|
|
29 |
SoftSign |
SoftPlus |
0,58125 |
|
|
30 |
SoftSign |
HardTanh |
0,532 |
|
|
31 |
SoftSign |
HardSigmoid |
0,531875 |
|
|
32 |
SoftSign |
Sigmoid |
0,5165 |
|
|
33 |
SoftPlus |
ReLU |
0,666375 |
|
|
34 |
SoftPlus |
ELU |
0,6995 |
|
|
35 |
SoftPlus |
SELU |
0,726625 |
|
|
36 |
SoftPlus |
SoftSign |
0,729375 |
|
|
37 |
SoftPlus |
SoftPlus |
0,716125 |
|
|
38 |
SoftPlus |
HardTanh |
0,645 |
|
|
39 |
SoftPlus |
HardSigmoid |
0,668125 |
|
|
40 |
SoftPlus |
Sigmoid |
0,774 |
|
|
41 |
HardTanh |
ReLU |
0,472125 |
|
|
42 |
HardTanh |
ELU |
0,4945 |
|
|
43 |
HardTanh |
SELU |
0,482625 |
|
|
44 |
HardTanh |
SoftSign |
0,4755 |
|
|
45 |
HardTanh |
SoftPlus |
0,521625 |
|
|
46 |
HardTanh |
HardTanh |
0,4675 |
|
|
47 |
HardTanh |
HardSigmoid |
0,467375 |
|
|
48 |
HardTanh |
Sigmoid |
0,483125 |
|
|
49 |
HardSigmoid |
ReLU |
0,542625 |
|
|
50 |
HardSigmoid |
ELU |
0,569125 |
|
|
51 |
HardSigmoid |
SELU |
0,54725 |
|
|
52 |
HardSigmoid |
SoftSign |
0,5635 |
|
|
53 |
HardSigmoid |
SoftPlus |
0,540125 |
|
|
54 |
HardSigmoid |
HardTanh |
0,56025 |
|
|
55 |
HardSigmoid |
HardSigmoid |
0,561625 |
|
|
56 |
HardSigmoid |
Sigmoid |
0,569375 |
|
|
57 |
Sigmoid |
ReLU |
0,632 |
|
|
58 |
Sigmoid |
ELU |
0,637875 |
|
|
59 |
Sigmoid |
SELU |
0,611875 |
|
|
60 |
Sigmoid |
SoftSign |
0,64075 |
|
|
61 |
Sigmoid |
SoftPlus |
0,608875 |
|
|
62 |
Sigmoid |
HardTanh |
0,640875 |
|
|
63 |
Sigmoid |
HardSigmoid |
0,61575 |
|
|
64 |
Sigmoid |
Sigmoid |
0,608625 |
Десять лучших конфигураций
|
№ |
Первая функция активации |
Вторая функция активации |
Точность распознавания |
|
|
1 |
SELU |
Sigmoid |
0,8065 |
|
|
2 |
ELU |
Sigmoid |
0,80375 |
|
|
3 |
SELU |
ELU |
0,783875 |
|
|
4 |
ELU |
SoftSign |
0,783875 |
|
|
5 |
ELU |
SELU |
0,777375 |
|
|
6 |
SELU |
SoftSign |
0,776375 |
|
|
7 |
SoftPlus |
Sigmoid |
0,774 |
|
|
8 |
SELU |
SoftPlus |
0,76875 |
|
|
9 |
SELU |
SELU |
0,766375 |
|
|
10 |
ELU |
HardSigmoid |
0,7595 |
Обучение с другими параметрами
|
№ |
Первая функция активации |
Вторая функция активации |
Точность распознавания |
|
|
1 |
SELU |
Sigmoid |
0,896667 |
|
|
2 |
ELU |
Sigmoid |
0,903333 |
|
|
3 |
SELU |
ELU |
0,888 |
|
|
4 |
ELU |
SoftSign |
0,880333 |
|
|
5 |
ELU |
SELU |
0,906667 |
|
|
6 |
SELU |
SoftSign |
0,883 |
|
|
7 |
SoftPlus |
Sigmoid |
0,873333 |
|
|
8 |
SELU |
SoftPlus |
0,866667 |
|
|
9 |
SELU |
SELU |
0,906333 |
|
|
10 |
ELU |
HardSigmoid |
0,906 |
С шумом {-0.1, 0.1}
Сигнальные созвездия с данным уровнем шума
|
№ |
Первая функция активации |
Вторая функция активации |
Точность распознавания |
|
|
1 |
SELU |
Sigmoid |
0,904 |
|
|
2 |
ELU |
Sigmoid |
0,903667 |
|
|
3 |
SELU |
ELU |
0,891667 |
|
|
4 |
ELU |
SoftSign |
0,894 |
|
|
5 |
ELU |
SELU |
0,907 |
|
|
6 |
SELU |
SoftSign |
0,889333 |
|
|
7 |
SoftPlus |
Sigmoid |
0,864 |
|
|
8 |
SELU |
SoftPlus |
0,873667 |
|
|
9 |
SELU |
SELU |
0,9 |
|
|
10 |
ELU |
HardSigmoid |
0,903333 |
С шумом {-0.25, 0.25}
Сигнальные созвездия с данным уровнем шума
|
№ |
Первая функция активации |
Вторая функция активации |
Точность распознавания |
|
|
1 |
SELU |
Sigmoid |
0,903 |
|
|
2 |
ELU |
Sigmoid |
0,902667 |
|
|
3 |
SELU |
ELU |
0,885333 |
|
|
4 |
ELU |
SoftSign |
0,891333 |
|
|
5 |
ELU |
SELU |
0,912667 |
|
|
6 |
SELU |
SoftSign |
0,886333 |
|
|
7 |
SoftPlus |
Sigmoid |
0,882333 |
|
|
8 |
SELU |
SoftPlus |
0,876667 |
|
|
9 |
SELU |
SELU |
0,900333 |
|
|
10 |
ELU |
HardSigmoid |
0,897 |
С шумом {-0.5, 0.5}
Сигнальные созвездия с данным уровнем шума
|
№ |
Первая функция активации |
Вторая функция активации |
Точность распознавания |
|
|
1 |
SELU |
Sigmoid |
0,903667 |
|
|
2 |
ELU |
Sigmoid |
0,902667 |
|
|
3 |
SELU |
ELU |
0,890333 |
|
|
4 |
ELU |
SoftSign |
0,884 |
|
|
5 |
ELU |
SELU |
0,911667 |
|
|
6 |
SELU |
SoftSign |
0,871667 |
|
|
7 |
SoftPlus |
Sigmoid |
0,877 |
|
|
8 |
SELU |
SoftPlus |
0,86 |
|
|
9 |
SELU |
SELU |
0,907667 |
|
|
10 |
ELU |
HardSigmoid |
0,897 |
С шумом {-1, 1}
Сигнальные созвездия с данным уровнем шума
|
№ |
Первая функция активации |
Вторая функция активации |
Точность распознавания |
|
|
1 |
SELU |
Sigmoid |
0,894 |
|
|
2 |
ELU |
Sigmoid |
0,907 |
|
|
3 |
SELU |
ELU |
0,899 |
|
|
4 |
ELU |
SoftSign |
0,880333 |
|
|
5 |
ELU |
SELU |
0,890667 |
|
|
6 |
SELU |
SoftSign |
0,885 |
|
|
7 |
SoftPlus |
Sigmoid |
0,861667 |
|
|
8 |
SELU |
SoftPlus |
0,866667 |
|
|
9 |
SELU |
SELU |
0,899 |
|
|
10 |
ELU |
HardSigmoid |
0,889667 |
Итог
Как и в предыдущем случае, западения точности распознавания нет и при максимальном уровне шума, но в целом точность распознавания просела на ~7%. Лучший результат опять показала конфигурация ELU/Sigmoid с 91% точности распознавания.
QAM, M=2^(2n)
Без шума
|
№ |
Первая функция активации |
Вторая функция активации |
Точность распознавания |
|
|
1 |
ReLU |
ReLU |
0,8785 |
|
|
2 |
ReLU |
ELU |
0,940125 |
|
|
3 |
ReLU |
SELU |
0,965 |
|
|
4 |
ReLU |
SoftSign |
0,964625 |
|
|
5 |
ReLU |
SoftPlus |
0,958625 |
|
|
6 |
ReLU |
HardTanh |
0,903125 |
|
|
7 |
ReLU |
HardSigmoid |
0,9685 |
|
|
8 |
ReLU |
Sigmoid |
0,976875 |
|
|
9 |
ELU |
ReLU |
0,93875 |
|
|
10 |
ELU |
ELU |
0,979625 |
|
|
11 |
ELU |
SELU |
0,982625 |
|
|
12 |
ELU |
SoftSign |
0,978 |
|
|
13 |
ELU |
SoftPlus |
0,96775 |
|
|
14 |
ELU |
HardTanh |
0,9605 |
|
|
15 |
ELU |
HardSigmoid |
0,979875 |
|
|
16 |
ELU |
Sigmoid |
0,98475 |
|
|
17 |
SELU |
ReLU |
0,9505 |
|
|
18 |
SELU |
ELU |
0,97625 |
|
|
19 |
SELU |
SELU |
0,988 |
|
|
20 |
SELU |
SoftSign |
0,97925 |
|
|
21 |
SELU |
SoftPlus |
0,968 |
|
|
22 |
SELU |
HardTanh |
0,961375 |
|
|
23 |
SELU |
HardSigmoid |
0,97825 |
|
|
24 |
SELU |
Sigmoid |
0,98475 |
|
|
25 |
SoftSign |
ReLU |
0,808625 |
|
|
26 |
SoftSign |
ELU |
0,794875 |
|
|
27 |
SoftSign |
SELU |
0,806625 |
|
|
28 |
SoftSign |
SoftSign |
0,79275 |
|
|
29 |
SoftSign |
SoftPlus |
0,81675 |
|
|
30 |
SoftSign |
HardTanh |
0,78625 |
|
|
31 |
SoftSign |
HardSigmoid |
0,8 |
|
|
32 |
SoftSign |
Sigmoid |
0,799375 |
|
|
33 |
SoftPlus |
ReLU |
0,88575 |
|
|
34 |
SoftPlus |
ELU |
0,9325 |
|
|
35 |
SoftPlus |
SELU |
0,964375 |
|
|
36 |
SoftPlus |
SoftSign |
0,97425 |
|
|
37 |
SoftPlus |
SoftPlus |
0,964875 |
|
|
38 |
SoftPlus |
HardTanh |
0,942375 |
|
|
39 |
SoftPlus |
HardSigmoid |
0,97575 |
|
|
40 |
SoftPlus |
Sigmoid |
0,980625 |
|
|
41 |
HardTanh |
ReLU |
0,745625 |
|
|
42 |
HardTanh |
ELU |
0,755 |
|
|
43 |
HardTanh |
SELU |
0,770125 |
|
|
44 |
HardTanh |
SoftSign |
0,7495 |
|
|
45 |
HardTanh |
SoftPlus |
0,785125 |
|
|
46 |
HardTanh |
HardTanh |
0,738625 |
|
|
47 |
HardTanh |
HardSigmoid |
0,755875 |
|
|
48 |
HardTanh |
Sigmoid |
0,759875 |
|
|
49 |
HardSigmoid |
ReLU |
0,819375 |
|
|
50 |
HardSigmoid |
ELU |
0,808125 |
|
|
51 |
HardSigmoid |
SELU |
0,807125 |
|
|
52 |
HardSigmoid |
SoftSign |
0,81075 |
|
|
53 |
HardSigmoid |
SoftPlus |
0,814125 |
|
|
54 |
HardSigmoid |
HardTanh |
0,809625 |
|
|
55 |
HardSigmoid |
HardSigmoid |
0,83275 |
|
|
56 |
HardSigmoid |
Sigmoid |
0,852 |
|
|
57 |
Sigmoid |
ReLU |
0,871125 |
|
|
58 |
Sigmoid |
ELU |
0,860625 |
|
|
59 |
Sigmoid |
SELU |
0,84975 |
|
|
60 |
Sigmoid |
SoftSign |
0,86825 |
|
|
61 |
Sigmoid |
SoftPlus |
0,869 |
|
|
62 |
Sigmoid |
HardTanh |
0,861125 |
|
|
63 |
Sigmoid |
HardSigmoid |
0,876375 |
|
|
64 |
Sigmoid |
Sigmoid |
0,884875 |