按着你的程序我也编了一个GUI小程序，设置一个坐标axes1，一个按钮，当按下按钮的时候弹出对框要求输数，按钮回调函数如下： 

 PRI=rand(50,50);         %按我的理解，你这里应该是一幅图像的灰度值矩阵，
                            在这里我给他赋值为一个随机的矩阵。
     axes(handles.axes1);
     cla;
      prompt = {'掩模X','掩模Y'};
             def = {'3','3'};
             dlgTitle = '输入整数：'
             answer=inputdlg(prompt,dlgTitle,1,def);
             li = str2num(answer{1});
             hi = str2num(answer{2});
            % set(handles.text12,'String','中值滤波');

     f1=medfilt2(PRI,[li hi],'symmetric');
     imshow(f1);

运行程序，没发现什么问题啊，你是那里出错了呢?能不能把错误信息发过来看看，一起交流一下

我运行以后的界面如下  
[img]C:\Documents and Settings\可凡\桌面[/img]

我发现原来彩色图象不能显示，也就是先的把彩色图象转换为灰度图象才可进行滤波！谢谢拉