我又仔细测了一遍，哥们你确定不是因为你少写一个方法结束导致的？
另外 X 变量未定义啊, $(x) 会报错的。
再看又发现逻辑也有错啊...

$(document).ready(function(){
    $('#Button').click(function () {

        var x = $('#X').val(),
            y = $('#Y').val();
            
        // 判断 不! 是! 数字!!!
        if (!isNaN(x) || !isNaN(y)) {
            alert('横纵的单元格中只能输入数字。');
            return;
        }
        else if (x < 4 || y < 4 || x >= 10 || y >= 10) {
            alert('横纵的数量不能小于 4，且不能大于 9。');
            return;
        }
    // 少个结束
    });  
});

另外，chrome是支持html5的 所以你是怎么在只允许输入数字的输入框输入非数字的？js赋值？