Score:1

บีบอัดไฟล์อินพุตจาก rsync ก่อนเขียนลงดิสก์

ธง vn

ฉันจำเป็นต้องโหลดไฟล์ข้อความขนาดใหญ่จากเครื่องอื่นผ่านลิงก์ขนาด 10Gb ไฟล์ที่สร้างโดยซอฟต์แวร์ภายนอก/โอเพ่นซอร์สซึ่งฉันไม่มีสิทธิ์เข้าถึงการเปลี่ยนแปลง (เช่น บีบอัดไฟล์เอาต์พุต)

ขณะนี้การใช้งานเครือข่ายและดิสก์ IO อยู่ที่ 100% บนเครื่องเหล่านี้ (เครื่องต้นทางและปลายทาง) ดังนั้นปัญหาคอขวดของระบบ

หากเครื่องต้นทางสามารถบีบอัดไฟล์ข้อความได้ตั้งแต่แรกก็จะไม่มีปัญหาเลย แต่ฉันไม่สามารถเข้าถึงเครื่องต้นทางได้ (ไฟล์ถูก rsync-ed ไปยังเครื่องปลายทางที่ฉันสามารถเข้าถึงได้)

มีอะไรที่เครื่องปลายทางที่ฉันสามารถทำได้เพื่อลดแรงกดบนดิสก์ของเครื่องปลายทางเป็นอย่างน้อย

ฉันเกิดความคิดที่ไร้สาระขึ้น ซึ่งก็คือ: การมีไดรฟ์ที่แมปหน่วยความจำชั่วคราวที่มีขนาดไม่กี่ GB ติดตั้งเป็นไดเร็กทอรีอินพุตของ rsync จากเครื่องต้นทาง จากนั้นเขียนโปรแกรมเพื่อบีบอัดไฟล์ข้อความสองสามไฟล์ในแต่ละครั้ง เขียนไฟล์เอาต์พุตที่บีบอัด (ขนาดเล็กกว่าไฟล์ต้นฉบับ 10 เท่าเมื่อเทียบกับไฟล์ต้นฉบับ) ไปยัง HDD และลบไฟล์ต้นฉบับออกจากไดรฟ์ที่แมปหน่วยความจำ

มีเครื่องมือทำสิ่งนี้แล้วหรือยัง! คำแนะนำอื่น ๆ ?

ฉันใช้อูบุนตู 18.04

ขอแสดงความนับถืออย่างสูง

in flag
คำแนะนำผลิตภัณฑ์อยู่นอกหัวข้อ แต่ [fusecompress ดูดี](https://www.systutorials.com/docs/linux/man/1-fusecompress/)
f.ald avatar
vn flag
fusecompress ดูเหมือนโครงการร้าง (ไม่ได้อัปเดตเป็นเวลานาน) และฉันไม่สามารถหาวิธีติดตั้งบน linux ได้
Score:0
ธง cn
Bob

มีอะไรที่เครื่องปลายทางที่ฉันสามารถทำได้เพื่อลดแรงกดบนดิสก์ของเครื่องปลายทางเป็นอย่างน้อย

เมื่อดิสก์ IO เป็นคอขวด แน่นอนว่าทางออกที่ชัดเจนคือ "รับดิสก์ที่เร็วขึ้น".

อีกทางเลือกหนึ่งเมื่อคุณมีความจุของ CPU สำรอง: ระบบไฟล์ Linux หลายระบบรองรับการบีบอัดแบบ "โปร่งใส" ซึ่งไดรเวอร์ระบบไฟล์ทำการบีบอัดแบบทันทีทันใดในขณะที่เขียนข้อมูลไปยังพื้นที่เก็บข้อมูลบล็อกพื้นฐานและคลายการบีบอัดเมื่อข้อมูลถูกอ่านอีกครั้ง จากนั้นคุณไม่ต้องเปลี่ยนแปลงอะไรในระดับแอปพลิเคชัน

f.ald avatar
vn flag
หากเราเมานต์ไดรฟ์ ZFS ผ่าน NFS และเข้าถึงไฟล์จากระยะไกล ไฟล์บีบอัด/ขนาดเล็กจะถูกส่งผ่านเครือข่ายและคลายการบีบอัดบนเครื่องระยะไกลหรือในทางกลับกัน
djdomi avatar
za flag
คุณ csn ใช้ tar และ xz มากกว่า nc หรือ ssh

โพสต์คำตอบ

คนส่วนใหญ่ไม่เข้าใจว่าการถามคำถามมากมายจะปลดล็อกการเรียนรู้และปรับปรุงความสัมพันธ์ระหว่างบุคคล ตัวอย่างเช่น ในการศึกษาของ Alison แม้ว่าผู้คนจะจำได้อย่างแม่นยำว่ามีคำถามกี่ข้อที่ถูกถามในการสนทนา แต่พวกเขาไม่เข้าใจความเชื่อมโยงระหว่างคำถามและความชอบ จากการศึกษาทั้ง 4 เรื่องที่ผู้เข้าร่วมมีส่วนร่วมในการสนทนาด้วยตนเองหรืออ่านบันทึกการสนทนาของผู้อื่น ผู้คนมักไม่ตระหนักว่าการถามคำถามจะมีอิทธิพลหรือมีอิทธิพลต่อระดับมิตรภาพระหว่างผู้สนทนา