В матлабе настолько криво сделанный и неудобный к программированию GUI, что просто пи*зец.
Как вы думаете, можно узнать активирована ли радио-кнопка, которая называется "fixed_prob_radio"?
Вот так:
if (get(handles.fixed_prob_radio, 'Value') == get(handles.fixed_prob_radio, 'Max'))
Хотя, почему-то мне кажется, что в octave с этим еще хуже.