陈某，男，汉族，1975年6月8日生，河南周口人，持×××××号中国因私普通护照。2007年10月，某边防检查站在对前往首尔航班执行边防检查任务时，发现旅客陈某无韩国过境签证而欲过境韩国前往墨西哥。经检查鉴定，发现其所持的中国因私普通护照和墨西哥签证都是真实的，但没有办理韩国的过境签证。边防检查站对陈某作出了罚款的处罚决定。陈某不服，向边防总队提起行政复议。边防总队经过调查，维持了边防检查站的决定。陈某不服欲向法院起诉。 对陈某的行为是否应予以处罚？