Початки історії Ковраю Другого сягають своїм корінням у 80-ті роки XVIII ст. Зокрема, в описах Київського намісництва зустрічаєтьмся згадка про нього як про хутір. Пізніше в документах фіксуються такі сполучення "Ковраю з Левадою", "Левада при Ковраї". 

Місцевими землями володіли Томари, а частина їх була складовою маєтку М. Я. Мерінга "великий Каврай". На 1885 р. у Леваді при Ковраї" налічувалося 106 дворів, де проживало 584 мешканці.

У роки Української національно-демократичної революції 1917-1921 рр. левадяни розподілили між собою поміщицьку землю. Період непу приніс у село пожвавлення економічного життя, а відтак, і зростання людності. Тоді Коврай-Левада мас статус хутора і був адміністративно підпорядкований Коврайській сільській раді Гельмязівського району. За переписом 1920-х рр. на хуторі налічувалося 224 двори з насленням 1037 жителів.

Наприкінці 1920 року місцева біднота обєдналася в сільгоспкомуну "Іскра". Через деякий час на її базі було організовано колгосп ім. Калініна.

Кожний третій левадянин загинув голодною смертю у страшні 1932-1933 рр., в абсолютних вимірах кількість жертв голодомору сягнула за 300 осіб. Близько 10 місцевих жителів було незаконно репресовано, серед них - Б. І. Романовський, Михайло та Мусій Москаленки, Іван, Олександр та Дмитро Різник та ін.

263 левадяни взяло участь у Великій Вітчизняній війні, 98 з них загинуло, в тому числі 11 під час нацистської окупації. 

Після війни місцеве господарство було перейменовано на "серп і молот", з 1951 р. йому було повернуто попередню назву, а в 1959 р. місцевий колгосп дістав спочатку ім'я М. І. Калініна, потім - С. М. Кірова, його очолив В. Давиденко.

в 1991 році відновило самостійність і місцеве сільгосппідприємтсво, яке дістало поетичну назву "Світанок". Головою місцевого сількогосподарського підприємтсва став Даценко Станіслав Петрович. Після реформування воно слало сільгосптовариством з обмеженою відповідальністю, директором якого став Салов Анатолій Михайлович.

На хвилі "самовтійницьких" прагнень, що охопили все українське суспільство, з ініціативи місцевої громади 17 вересня 1992 року постала й наймолодша сільська рада Золотоніщини - Коврайська Друга (голова - В. В. Костенко).

В даний час на території села знаходиться СТОВ "Пальміра" відділ Коврай. Очолює відділ Дзюбан Іван Іванович.