ฉันจำเป็นต้องโหลดไฟล์ข้อความขนาดใหญ่จากเครื่องอื่นผ่านลิงก์ขนาด 10Gb ไฟล์ที่สร้างโดยซอฟต์แวร์ภายนอก/โอเพ่นซอร์สซึ่งฉันไม่มีสิทธิ์เข้าถึงการเปลี่ยนแปลง (เช่น บีบอัดไฟล์เอาต์พุต)
ขณะนี้การใช้งานเครือข่ายและดิสก์ IO อยู่ที่ 100% บนเครื่องเหล่านี้ (เครื่องต้นทางและปลายทาง) ดังนั้นปัญหาคอขวดของระบบ
หากเครื่องต้นทางสามารถบีบอัดไฟล์ข้อความได้ตั้งแต่แรกก็จะไม่มีปัญหาเลย แต่ฉันไม่สามารถเข้าถึงเครื่องต้นทางได้ (ไฟล์ถูก rsync-ed ไปยังเครื่องปลายทางที่ฉันสามารถเข้าถึงได้)
มีอะไรที่เครื่องปลายทางที่ฉันสามารถทำได้เพื่อลดแรงกดบนดิสก์ของเครื่องปลายทางเป็นอย่างน้อย
ฉันเกิดความคิดที่ไร้สาระขึ้น ซึ่งก็คือ: การมีไดรฟ์ที่แมปหน่วยความจำชั่วคราวที่มีขนาดไม่กี่ GB ติดตั้งเป็นไดเร็กทอรีอินพุตของ rsync จากเครื่องต้นทาง
จากนั้นเขียนโปรแกรมเพื่อบีบอัดไฟล์ข้อความสองสามไฟล์ในแต่ละครั้ง เขียนไฟล์เอาต์พุตที่บีบอัด (ขนาดเล็กกว่าไฟล์ต้นฉบับ 10 เท่าเมื่อเทียบกับไฟล์ต้นฉบับ) ไปยัง HDD และลบไฟล์ต้นฉบับออกจากไดรฟ์ที่แมปหน่วยความจำ
มีเครื่องมือทำสิ่งนี้แล้วหรือยัง! คำแนะนำอื่น ๆ ?
ฉันใช้อูบุนตู 18.04
ขอแสดงความนับถืออย่างสูง