公司讓我自己選擇上不上保險！很重要嗎？

面試了一家公司，覺得我還不錯，但是認爲我提出稅前4500有點高。於是，他們跟我說如果希望上5險1金，稅前薪酬是3500；如果我不要求上保險，薪酬就是4500左右。
這種公司是不是很不正規啊？以前沒遇見過這樣的.。
不上保險，在這樣的公司會有什麼隱患嗎？